Компания Google официально исключила из поисковой выдачи ИИ-функции, предоставляющие пользователям рекомендации по вопросам здоровья на основе данных от непрофессиональных источников. Это решение было принято после публикации резонансного расследования, выявившего потенциальные угрозы для безопасности пользователей из-за работы алгоритмов генеративного искусственного интеллекта.
Риски недостоверной информации в AI Overviews
Технология AI Overviews, предназначенная для быстрого суммирования ответов на поисковые запросы, столкнулась с критикой из-за качества генерируемого контента. Расследование издания The Guardian показало, что система могла выдавать советы, основанные на мнениях пользователей форумов и непроверенных веб-ресурсов, выдавая их за экспертные медицинские рекомендации.
В ходе анализа были выявлены следующие проблемные аспекты работы системы:
- Ложные и вводящие в заблуждение данные о методах лечения заболеваний.
- Использование в качестве первоисточников советов от непрофессионалов.
- Отсутствие четкой дифференциации между научно обоснованными данными и субъективным опытом пользователей интернета.
Реакция корпорации и изменение политики
Представители Google оперативно отреагировали на сообщения о нарушениях в работе ИИ. Корпорация обновила механизмы фильтрации контента, чтобы предотвратить появление потенциально опасных советов в чувствительных категориях, связанных с медициной и здоровьем. Это решение подчеркивает стремление технологического гиганта к соблюдению строгих стандартов безопасности при внедрении нейросетевых технологий в повседневный поиск.
Ранее выявленные риски для пользователей были связаны с предоставлением ИИ-обзорами недостоверной информации, что послужило причиной для немедленного пересмотра алгоритмов выдачи в марте 2026 года.
Инцидент с Google подчеркивает существующую проблему «галлюцинаций» и точности ИИ при работе с критически важными данными. Ограничение функций советов по здоровью свидетельствует о переходе индустрии к более осторожному и регулируемому использованию генеративных моделей в сферах, где цена ошибки может быть критически высокой. В будущем ожидается внедрение более сложных систем верификации фактов перед их интеграцией в массовые сервисы.