Компания OpenAI впервые публично раскрыла случай тесного взаимодействия с правоохранительными органами США, приведший к аресту преступника. Разработчик ChatGPT передал Федеральному бюро расследований (ФБР) детали переписки с 25-летним жителем Флориды Дарреном Чжоу, который использовал нейросеть для планирования тяжкого преступления. Данный инцидент подчеркивает изменение политики конфиденциальности ИИ-платформ в случаях возникновения прямой угрозы жизни людей.
Хронология инцидента и содержание диалогов
Согласно судебным документам, Даррен Чжоу начал использовать чат-бота после расставания со своей партнершей. Первоначально запросы носили бытовой характер: пользователь фиксировал расписание и хобби бывшей девушки. Однако вскоре характер взаимодействия с искусственным интеллектом изменился на агрессивный. В диалогах начали фигурировать описания насильственных действий и детальные планы убийства.
В ходе расследования были установлены следующие ключевые факты:
- Пользователь открыто заявлял о наличии огнестрельного оружия, включая винтовку AR-15, пистолет Glock и дробовик 12-го калибра.
- В чатах содержались прямые угрозы убийства и последующего самоубийства.
- Системы безопасности OpenAI зафиксировали нарушение правил использования сервиса (Safety Policy) и передали отчет властям.
Модерация контента в современных LLM (больших языковых моделях) настроена на автоматическое выявление паттернов поведения, связанных с подготовкой преступлений или самоповреждением, что и послужило триггером для обращения в ФБР.
Правовые последствия и приговор
Даррен Чжоу был задержан полицией в мае текущего года. Благодаря своевременному вмешательству правоохранителей, потенциальную жертву удалось обезопасить до совершения нападения. В ходе судебного разбирательства подсудимый пошел на сделку с прокуратурой, признав свою вину в подготовке насильственного преступления. По решению суда, Чжоу был приговорен к восьми годам лишения свободы условно, что предполагает жесткий надзор со стороны органов пробации и ограничение доступа к определенным цифровым ресурсам.
Случай Даррена Чжоу создает важный прецедент в области цифрового права и этики ИИ. Он демонстрирует, что анонимность в общении с чат-ботами является условной: технологические гиганты готовы жертвовать приватностью пользователей ради предотвращения реальных актов насилия. В будущем подобные механизмы взаимодействия ИТ-компаний и силовых структур, вероятно, станут стандартом для индустрии, что потребует более четкого законодательного регулирования границ мониторинга личных переписок.