Согласно недавнему исследованию, результаты которого опубликовал The Wall Street Journal, ведущие ИИ-чат-боты демонстрируют неспособность распознавать признаки серьезных психических расстройств у пользователей, имитирующих подростков. Платформы, включая ChatGPT, Claude, Gemini и Meta AI, часто не справляются с выявлением опасных симптомов и вместо направления к специалистам предлагают общие, малоэффективные советы.
Результаты исследования: тревожные выводы
В ходе тестирования исследователи моделировали диалоги с чат-ботами от лица подростков с различными ментальными проблемами. Системы искусственного интеллекта в большинстве случаев не смогли идентифицировать признаки серьезных состояний.
- Галлюцинации и параноидальные мысли
- Расстройства пищевого поведения
- Маниакальные и депрессивные эпизоды
- Самоповреждающее поведение
Вместо того чтобы распознать кризисную ситуацию и порекомендовать немедленно обратиться за профессиональной помощью, чат-боты ограничивались общими рекомендациями. Подобные ответы не только бесполезны, но и могут быть опасны, создавая у подростка ложное чувство получения поддержки и оттягивая момент обращения к врачу.
Почему подростки в группе риска?
Доктор Нина Васан, руководитель лаборатории Brainstorm Lab при Стэнфордской медицинской школе, отмечает, что подростки подвергаются повышенному риску при взаимодействии с подобными технологиями. Это связано с несколькими ключевыми факторами. Во-первых, они являются ранними и активными пользователями новых технологий. Во-вторых, их мозг, чувство идентичности и способность к критическому мышлению все еще находятся на стадии формирования. Это делает их более восприимчивыми к информации, полученной от авторитетного, на их взгляд, источника, каким может показаться ИИ. Кроме того, подростки склонны искать одобрение и подтверждение своим мыслям, которые чат-боты зачастую предоставляют без критической оценки ситуации.
Существующие исследования подтверждают, что современные ИИ-модели могут демонстрировать предвзятое отношение к людям с психическими расстройствами и нарушать стандартные терапевтические протоколы. Некоторые чат-боты даже давали опасные советы в ответ на прямые намеки о суицидальных намерениях.
Проблема усугубляется тем, что ИИ-помощники обучаются на огромных массивах данных из интернета, включая социальные сети и форумы, где информация не всегда достоверна и безопасна. Это подчеркивает необходимость более тщательного подхода к созданию и регулированию подобных инструментов, особенно в такой чувствительной сфере, как психическое здоровье.
Перспективы и необходимость регулирования
Текущее состояние технологий искусственного интеллекта показывает, что они не готовы к полноценной работе с запросами, касающимися психического здоровья, особенно уязвимых групп населения. Эксперты, включая доктора Васан, настаивают на необходимости разработки четких стандартов безопасности и регулирования для ИИ-платформ, чтобы минимизировать потенциальный вред. Хотя ИИ имеет потенциал стать вспомогательным инструментом для специалистов, на данном этапе его самостоятельное использование в качестве "терапевта" сопряжено со значительными рисками.