Группа из трех туристов была успешно эвакуирована с горы Шаста в штате Калифорния после того, как искусственный интеллект Gemini от Google предоставил некорректные рекомендации для планирования горного маршрута. Использование чат-бота в качестве навигационного и логистического помощника привело к критической нехватке ресурсов и вынужденной ночевке в экстремальных условиях, что потребовало вмешательства спасательных служб.
Хронология инцидента и ошибки планирования
Согласно официальному отчету офиса шерифа округа Сискию, группа начала восхождение в 03:00, однако достигла вершины только к 19:00, значительно выбившись из графика. С наступлением темноты туристы потеряли ориентиры и были вынуждены вызвать помощь, проведя ночь в труднодоступном ущелье Мудди-Крик. Спасательная операция, в которой участвовали рейнджеры и волонтеры, завершилась только на следующее утро.
Расследование инцидента выявило, что ключевой причиной возникновения чрезвычайной ситуации стали рекомендации нейросети. Чат-бот Gemini предложил туристам взять с собой меньший объем провизии и воды, чем требуется для безопасного прохождения данного маршрута. В результате 8-часовой план превратился в многодневное испытание без достаточных запасов жизнеобеспечения.
Риски использования нейросетей в экстремальных условиях
Специалисты по безопасности подчеркивают, что современные большие языковые модели (LLM) склонны к генерации «галлюцинаций» — уверенных, но фактически неверных ответов. В случае с активным отдыхом такие ошибки могут иметь фатальные последствия.
При планировании маршрутов через ИИ были выявлены следующие проблемы:
- Неправильный расчет времени прохождения пути с учетом рельефа.
- Занижение норм потребления калорий и жидкости для высокогорья.
- Отсутствие учета актуальных погодных условий и сложности ландшафта.
Туристы получили от Gemini рекомендацию взять с собой меньше еды и воды, чем требовалось, что стало критичным, когда поход затянулся, — отметили представители правоохранительных органов в официальном заявлении.
Перспективы развития ИИ-ассистентов
Данный инцидент актуализирует дискуссию о необходимости внедрения жестких фильтров и дисклеймеров в сервисах на базе ИИ при запросах, связанных с безопасностью жизни. Эксперты рекомендуют использовать специализированное навигационное ПО и консультироваться с профессиональными гидами, рассматривая советы чат-ботов лишь как вспомогательный, но не определяющий источник информации. Случай на горе Шаста станет очередным кейсом для технологических компаний в вопросе доработки алгоритмов выдачи рекомендаций в реальном мире.