ИИ-риски для репутации бизнеса: чем грозят ошибки нейросетей

Нейросети путают компании, выдумывают факты и создают сомнительную рекламу. Разбираем семь репутационных угроз на реальных примерах.

Галлюцинация ИИ возникает, когда нейросеть придумывает сведения и выдает их за достоверные факты. Например, сообщает о несуществующем судебном разбирательстве, приписывает чужой продукт или ошибается в истории бренда.

Особенно неприятно, когда выдумка касается безопасности, финансов или качества услуг. Потенциальный клиент может отказаться от покупки еще до того, как узнает, что нейросеть ошиблась.

В этой истории машина не просто ошиблась в справочной информации. Она дала человеку неверное представление об услуге, за которое пришлось отвечать авиакомпании.

Допустим, в интернете есть мебельная фабрика, рекламное агентство и художественная мастерская со схожими названиями. Человек ищет отзывы о производителе мебели, а нейросеть собирает сведения сразу о нескольких организациях.

В результате добросовестный бизнес может получить чужие жалобы. Для покупателя это выглядит как обычная репутационная сводка, хотя фактически речь идет о разных компаниях.

Компания давно сменила адрес или исправила недостатки сервиса. Но нейросеть продолжает сообщать старые сведения, потому что опирается на неактуальные источники либо данные, усвоенные при обучении.

Иногда последствия ограничиваются неудобством, и покупатель приезжает не по тому адресу. В других случаях ошибка серьезнее. Например, система сообщает, что компания вообще прекратила работу.

Так случилось с рестораном The Hideout Kitchen + Bar в США. В 2026 году владелица заведения пожаловалась на официальном форуме Google, что ИИ ошибочно сообщает о закрытии ресторана на реконструкцию. Ремонт действительно проводился, но еще в 2024 году. По словам предпринимательницы, неверная информация мешала бронированиям.

Однако на форуме так и не смогли помочь. Участники объяснили, что не могут напрямую редактировать ответы ИИ. Сводка формируется не только на основе данных профиля Google Business, поэтому владелице посоветовали искать источник ошибки на других сайтах.

Нейросеть может пересказывать реальные публикации, но неверно расставлять акценты. Из нескольких жалоб на один товар нейросеть делает вывод, что вся продукция компании плохая. А единичный конфликт с клиентом начинает выглядеть как постоянная проблема компании. Это критично, потому что, по данным исследования Markway и “Анкетолога”, каждый третий пользователь изучает в нейросетях отзывы о компаниях.

Опасны здесь не столько вымышленные факты, сколько неверные выводы. Отзывы могут быть подлинными, но нейросеть делает из них слишком негативные выводы о бренде.

Материалы, на которые опиралась нейросеть, исправили. После этого она стала иначе описывать колледж. Этот случай показывает, что репутации может вредить даже не ложный факт, а неудачно расставленные акценты.

Искусственный интеллект упростил создание текстов, фотографий и других материалов, которые выглядят вполне правдоподобно. Этим могут пользоваться мошенники и недобросовестные конкуренты.

Например, можно создать вымышленный отзыв с подробным описанием несуществующего конфликта или изображение якобы бракованного товара. Если такой материал распространится, компании придется доказывать, что события на самом деле не было.

Нарушения обнаружили после жалобы покупательницы, которая увидела отзыв от собственного имени. Компания признала факт поддельных публикаций и обязалась прекратить такую практику.

Получилась довольно ироничная история: организация пыталась искусственно улучшить свою репутацию, а в итоге привлекла внимание государственного надзорного органа.

С помощью ИИ можно имитировать голос и внешность человека. Мошенники в силах выпустить поддельные обращения от имени руководителей, сделать ложные заявления и разослать сообщения от лица компании.

Особенно уязвимы банки, работодатели и компании, руководители которых часто выступают публично. Даже после разоблачения подделки часть аудитории может запомнить первоначальное сообщение.

После разговора сотрудник перевел злоумышленникам около 25 миллионов долларов. Это случай финансового мошенничества, но он также показывает, насколько опасной для доверия внутри компании может стать подмена личности.

Не все угрозы приходят извне. Иногда компания создает их собственными руками, точнее, руками искусственного интеллекта. Например, поручает нейросети придумывать рекламные кампании, писать тексты, создавать изображения и отвечать клиентам. Производительность растет, расходы сокращаются. Кажется, можно открывать шампанское.

Но есть нюанс: ИИ умеет создавать убедительные материалы, не всегда понимая культурный, исторический и общественный контекст. Шутка, которая выглядит безобидной в рекламном сценарии, может оскорбить аудиторию. А красивое изображение — содержать детали, которые компания предпочла бы никогда не видеть рядом со своим логотипом.

Однако публика не оценила ни задумку, ни исполнение. После критики в социальных сетях McDonald’s удалил ролик. В компании признали, что для многих клиентов Рождество связано прежде всего с приятными эмоциями, а не с желанием поскорее пережить праздники.

У нейросети нет собственного опыта покупки дивана, посещения стоматолога или общения с менеджером банка. Она формирует ответы на основе доступной информации и закономерностей, усвоенных при обучении. Некоторые системы дополнительно обращаются к поиску и другим внешним источникам.

Ошибка может возникнуть, когда система ищет сведения, определяет, о какой компании речь, выбирает источники или составляет ответ.

Первая причина — недостаток информации о бренде. Если компания почти не представлена в интернете, системе сложнее найти надежные сведения. Особенно это касается небольших производителей и организаций с распространенными названиями.

Вторая — противоречивые источники. На официальном сайте написано одно, на сайте с отзывами — другое, в старой статье — третье. Нейросеть пытается собрать из этого связный ответ, но не всегда правильно определяет, какие сведения актуальны.

Третья — смешение организаций. Алгоритм может принять компании с похожими названиями за один бренд. В таком случае даже достоверные отзывы превращаются в дезинформацию, потому что относятся не к тому бизнесу.

Четвертая — ошибки обобщения. Система может преувеличить значение отдельных жалоб или недостаточно точно передать содержание публикации.

И наконец, пятая причина — ошибки генерации. Модель может сформулировать убедительное, но неверное утверждение, даже если подходящего подтверждения в источниках нет.

Самый очевидный риск — потеря доверия. Если нейросеть сообщает, что компания задерживает заказы, выпускает некачественную продукцию или участвует в сомнительных историях, покупатель может усомниться в надежности бренда.

Чтобы оценить ущерб, нужно выяснить, по каким запросам появляется ошибочный ответ, как часто его видят пользователи и меняют ли они после этого решение о покупке. Искусственный интеллект теперь тоже влияет на продажи.