Главный аллерголог-иммунолог Московской области Андрей Продеус выступил с предупреждением о рисках, связанных с использованием технологий искусственного интеллекта для решения вопросов здоровья. Эксперт подчеркнул, что несмотря на стремительное развитие нейросетей, их применение в медицинской диагностике обычными пользователями может привести к непредсказуемым последствиям из-за специфики работы алгоритмов.
Компетентность пользователя и точность данных
Согласно заявлению руководителя центра аллергологии и иммунологии НИКИ детства Минздрава МО, эффективность ИИ напрямую зависит от качества вводимых данных. Андрей Продеус отметил, что современная языковая модель лишь транслирует информацию, основываясь на запросах, которые формирует человек. Если пользователь не обладает медицинским образованием, он не может гарантировать точность предоставляемых ИИ сведений.
Искусственный интеллект настолько компетентен, насколько компетентен пользователь, который формирует запросы, предоставляет информацию и способен корректно её извлекать.
Основные факторы риска при работе с нейросетями
Специалисты выделяют несколько критических аспектов, которые делают самостоятельную диагностику с помощью чат-ботов небезопасной:
- Отсутствие возможности проведения физикального осмотра и лабораторных исследований.
- Вероятность «галлюцинаций» ИИ — генерации ложных, но правдоподобно выглядящих медицинских фактов.
- Неспособность алгоритма нести юридическую и профессиональную ответственность за поставленный диагноз.
- Искажение клинической картины из-за субъективного описания симптомов пациентом.
На текущий момент технологические решения в медицине рассматриваются профильным сообществом исключительно как инструменты поддержки принятия врачебных решений (СППВР), а не как полноценная замена квалифицированному специалисту.
Подводя итог, эксперты призывают использовать цифровые сервисы только в справочных целях и не пренебрегать очными консультациями. В условиях цифровизации здравоохранения сохранение критического мышления остается ключевым фактором безопасности пациентов, а ответственность за итоговое назначение терапии должна оставаться за профильным врачом.