Международная аудиторская сеть KPMG оказалась в центре скандала после того, как в её официальном аналитическом докладе были обнаружены фактические ошибки, сгенерированные искусственным интеллектом. Инцидент подчеркнул риски использования нейросетей при подготовке серьезной корпоративной отчетности, так как опубликованные данные содержали вымышленные примеры внедрения технологий в крупных мировых организациях.
Недостоверные данные в отчете «Переосмысление совершенства»
В октябре компания представила масштабное исследование под названием «Переосмысление совершенства в эпоху автономного ИИ». Предполагалось, что документ станет дорожной картой для бизнеса, однако эксперты из исследовательской компании GPTZero выявили в тексте классические «галлюцинации» ИИ. В отчете приводились ложные сведения о проектах в области автоматизации и машинного обучения в следующих структурах:
- Банковский холдинг UBS;
- Национальная служба здравоохранения Великобритании (NHS);
- Федеральные железные дороги Швейцарии (SBB);
- Транспортное управление Лондона (TfL).
Под «галлюцинациями» в контексте больших языковых моделей понимается генерация уверенных, но фактически неверных или полностью вымышленных утверждений.
Реакция бизнеса и отзыв публикации
После публикации доклада представители банка UBS официально потребовали от KPMG удаления недостоверной информации, касающейся их операционной деятельности. В результате инцидента аудиторская фирма была вынуждена полностью удалить отчет со всех своих цифровых платформ и официальных веб-сайтов.
Компания серьезно относится к точности и полноте своих общедоступных материалов. В настоящее время мы проводим тщательное расследование обстоятельств, приведших к публикации этих данных — сообщил официальный представитель KPMG International.
Перспективы использования ИИ в аналитике
Данный случай стал прецедентом, демонстрирующим уязвимость даже самых авторитетных консалтинговых агентств перед ошибками алгоритмов. Несмотря на стремление компаний оптимизировать создание контента с помощью генеративных моделей, отсутствие жесткого фактчекинга со стороны человека может привести к репутационным потерям. Эксперты отрасли полагают, что этот инцидент заставит аудиторов «большой четверки» пересмотреть протоколы верификации данных, полученных с использованием нейросетей.