Правительство Канады выдвинуло жесткие требования к компании OpenAI, разработчику чат-бота ChatGPT, касающиеся усиления протоколов безопасности и взаимодействия с правоохранительными органами. Поводом для официального обращения стал резонансный инцидент со стрельбой в одной из местных школ, в ходе которого выяснилось, что подозреваемый использовал инструменты искусственного интеллекта. Министерство юстиции Канады настаивает на внедрении более эффективных механизмов предотвращения угроз, чтобы минимизировать риски использования ИИ в преступных целях.
Проблемы взаимодействия и отсутствие координации
В ходе расследования было установлено, что компания OpenAI идентифицировала и заблокировала учетную запись, принадлежащую подозреваемому, однако не передала соответствующие сведения канадской полиции в инициативном порядке. Отсутствие оперативной связи между технологическим гигантом и силовиками вызвало серьезную обеспокоенность у чиновников.
От компании ожидаются исправления, и в противном случае правительство вмешается для принудительного внесения изменений, — заявил министр юстиции Канады Шон Фрейзер по итогам встречи с командой безопасности OpenAI.
Возможные законодательные последствия
На текущий момент канадские власти рассматривают возможность введения специальных законодательных мер, если добровольные изменения в политике безопасности компании окажутся недостаточными. Ключевые требования включают:
- Разработка алгоритмов раннего оповещения о подозрительной активности пользователей.
- Прямая координация действий с международными правоохранительными органами.
- Ужесточение фильтрации контента, связанного с насилием и планированием преступлений.
Ранее эксперты в области кибербезопасности неоднократно указывали на уязвимости больших языковых моделей (LLM), которые могут быть использованы для деструктивной деятельности несмотря на существующие ограничения.
Данная ситуация подчеркивает растущую необходимость в создании четкой правовой базы для регулирования сферы генеративного искусственного интеллекта. Дальнейшее развитие событий покажет, сможет ли OpenAI адаптировать свои системы под требования национальной безопасности Канады или компании придется столкнуться с жестким государственным регулированием, которое может стать прецедентом для других стран.