Новое исследование, опубликованное в авторитетном медицинском журнале BMJ Open, выявило серьезные недостатки в работе популярных нейросетей при ответах на вопросы о здоровье. Группа ученых из США, Канады и Великобритании протестировала пять ведущих ИИ-платформ, обнаружив, что половина предоставленных рекомендаций содержала фактические ошибки. Данные результаты ставят под сомнение надежность использования генеративного искусственного интеллекта в качестве медицинского справочника без контроля со стороны специалистов.
Масштаб проблемы и методология исследования
В ходе эксперимента эксперты проанализировали работу таких систем, как ChatGPT, Gemini, Meta AI, Grok и DeepSeek. Каждой платформе было задано по 10 специфических вопросов, разделенных на пять ключевых категорий здравоохранения. Исследование показало, что качество ответов существенно варьируется в зависимости от сложности запроса и тематики.
- Почти 20% ответов были классифицированы как «очень проблемные», способные ввести пользователя в заблуждение.
- Чат-боты демонстрируют более высокую точность в закрытых вопросах (требующих однозначного ответа) и темах, касающихся вакцинации и онкологии.
- Наибольшее количество ошибок зафиксировано в областях диетологии и исследований стволовых клеток, а также при обработке открытых вопросов.
Проблема верификации и источников данных
Одной из наиболее критических проблем, выявленных исследователями, стала неспособность нейросетей подтверждать свои утверждения. Генеративные модели часто создают видимость достоверности, но не могут предоставить проверяемую базу. Ни один из протестированных чат-ботов не сумел сформировать полный и точный список ссылок на авторитетные научные источники или медицинские протоколы. Это явление, известное как «галлюцинации» ИИ, представляет особую опасность в контексте медицины, где точность данных напрямую влияет на безопасность пациентов.
Результаты исследования подчеркивают необходимость осторожного подхода к интеграции ИИ в сферу здравоохранения и важность профессиональной консультации вместо слепого доверия алгоритмам.
Подводя итог, можно констатировать, что текущее поколение ИИ-платформ пока не способно заменить квалифицированных медиков в вопросах диагностики и консультирования. Несмотря на стремительный прогресс технологий машинного обучения, отсутствие прозрачности в источниках данных и склонность к ошибкам в сложных темах требуют внедрения более строгих стандартов фильтрации медицинского контента. В ближайшей перспективе разработчикам предстоит сосредоточиться на минимизации ложных рекомендаций для обеспечения безопасности пользователей.