Генеральный директор OpenAI Сэм Альтман официально принес извинения жителям канадского города Тамблеридж в связи с тем, что компания не проинформировала правоохранительные органы о подозрительной активности пользователя до совершения преступления. Речь идет о инциденте с участием Джесси Ван Рутселара, чья учетная запись ChatGPT была заблокирована в июне 2025 года после того, как нейросеть зафиксировала генерацию контента, описывающего сцены насилия с применением огнестрельного оружия.
Дилемма безопасности и внутренние споры
Согласно расследованию Wall Street Journal, внутри OpenAI возникли серьезные разногласия относительно дальнейших действий после блокировки опасного аккаунта. Несмотря на наличие системы модерации, которая распознала угрозу, в компании отсутствовал четкий протокол оперативной передачи данных в полицию в подобных случаях.
Сотрудники подразделения безопасности вели внутренние дебаты, рассматривая следующие варианты:
- Направлять ли отчет о подозрительном контенте в правоохранительные органы немедленно.
- Достаточно ли простого ограничения доступа к сервису для предотвращения реальной угрозы.
- Как соблюсти баланс между конфиденциальностью данных пользователя и общественной безопасностью.
В конечном итоге руководство приняло решение не уведомлять полицию превентивно. Прямой контакт с канадскими властями был установлен только после того, как произошел массовый расстрел, что вызвало волну критики в адрес технологического гиганта.
Позиция руководства и новые стандарты взаимодействия
Мы приносим глубочайшие извинения сообществу. Мы осознаем серьезность ситуации и то, что наши действия могли быть более решительными, — заявил Сэм Альтман, подчеркнув, что OpenAI стремится к прозрачности в вопросах безопасности ИИ.
В ответ на инцидент компания планирует пересмотреть свои алгоритмы взаимодействия с государственными структурами. Ранее механизмы OpenAI были в основном сосредоточены на фильтрации контента внутри чат-бота, а не на оперативной связи с внешними силовыми ведомствами. Теперь основной акцент будет сделан на сотрудничестве с правительствами всех уровней, чтобы автоматизированные системы оповещения работали в режиме реального времени при обнаружении прямых угроз жизни людей.
Трагедия в Тамблеридже ставит перед ИИ-отраслью важный вопрос о границах ответственности разработчиков за действия их пользователей. Случай с Джесси Ван Рутселаром, вероятно, станет прецедентом, который приведет к ужесточению законодательного регулирования деятельности ИТ-компаний в сфере предотвращения преступлений и более тесной интеграции систем искусственного интеллекта с протоколами общественной безопасности.