Миллионы за галлюцинацию: нейросети подставили консалтинговых гигантов, а бизнес вынужденно меняет правила игры
Искусственный интеллект обещал корпоративному миру беспрецедентное ускорение процессов — от сбора рыночной аналитики до подготовки многостраничных отчетов. Однако бизнес столкнулся с опасной стороной этой эффективности. В официальные документы топ-уровня начали проникать сгенерированные ошибки: фальшивые ссылки, выдуманные кейсы и несуществующие цифры, которые выглядят настолько профессионально, что легко обходят базовый внутренний контроль.
Скандалы в консалтинге: когда экспертиза дает сбой
Один из самых громких прецедентов недавнего времени связан с KPMG. Компания выпустила масштабный отчет об использовании агентного ИИ в корпоративном секторе. Но после независимого аудита Financial Times и исследовательской группы GPTZero выяснилось, что документ опирался на сомнительные примеры внедрения нейросетей в таких структурах, как UBS, Национальная служба здравоохранения Великобритании (NHS) и Швейцарские железные дороги. Часть упомянутых организаций официально опровергла свое участие в описанных кейсах, после чего KPMG была вынуждена спешно удалить отчет и инициировать внутреннее расследование.
Аналогичный удар по репутации получило канадское подразделение EY. Компания сняла с публикации аналитику по киберрискам в программах лояльности, когда в тексте обнаружили выдуманные статистические данные и цитирование отчета McKinsey, которого никогда не существовало. Самое критичное в этой ситуации то, что материал уже активно использовался партнерами EY для прямых продаж услуг по кибербезопасности.
Для рынка управленческого консалтинга это крайне болезненный парадокс. Крупные фирмы продают клиентам услуги по выстраиванию ИИ-комплаенса, но выпуск собственных документов, переполненных машинными галлюцинациями, ставит под угрозу их главный актив — экспертный авторитет.
Еще раньше Deloitte Australia пошла на частичный возврат средств (около $290 000) правительству Австралии за заказанный аудит, который содержал типичные признаки генерации, включая ссылки на фейковые научные работы и выдуманные цитаты из судебного вердикта. Документ пришлось переиздавать, официально признав использование Azure OpenAI при его подготовке.
Эпидемия фейков в науке и новостях
Проблема давно вышла за пределы «Большой четверки». В академической среде бьют тревогу из-за десятков тысяч фантомных цитирований, зафиксированных в базах за 2025 год. Это публикации с правдоподобными названиями, авторами и индексами DOI, которые физически не существуют, но успешно проходят даже строгий отбор на ведущие профильные ИИ-конференции (например, NeurIPS).
В медиасфере ситуация не менее напряженная. Масштабное исследование Европейского вещательного союза (EBU) и BBC, проанализировавшее тысячи запросов осенью 2025 года, показало: 45% ответов ведущих AI-ассистентов на новостные темы содержали значимые дефекты. Проблемы касались точности фактологии, достоверности источников и неспособности алгоритмов отделить объективные данные от авторских мнений.
Цена машинной ошибки для реального бизнеса
Для корпоративного сектора это уже не просто технологический казус, а зона прямой юридической и материальной ответственности.
Коварство ИИ-галлюцинаций кроется в их безупречной стилистике. Модель способна с академической уверенностью указать дату публикации, автора и привести убедительную цитату с цифрами. Если подобная справка ложится в основу инвестиционного меморандума, процедуры due diligence или государственного контракта, последствия становятся непредсказуемыми. Компания может принять неверное стратегическое решение, публичный отчет начнет цитироваться деловыми СМИ, а несуществующий факт осядет в базах данных как истина.
Сегодня, когда интеграция нейросетей в бизнес-процессы достигла пика, цена слепого доверия технологиям выросла кратно. Искусственный интеллект остается великолепным инструментом для создания драфтов, структурирования информации и снятия рутины. Однако любой публичный документ или клиентский меморандум теперь требует жесточайшего ручного фактчекинга. В противном случае галлюцинация чатбота превращается в многомиллионный финансовый и репутационный риск для всей корпорации.
По материалам: Financial Times, Tagesschau / ARD, EBU, Associated Press
