Генеральный секретарь ООН Антониу Гутерриш выступил с инициативой создания единых международных правил, направленных на регулирование искусственного интеллекта. В ходе своего заявления глава организации подчеркнул, что текущие темпы технологического прогресса значительно опережают возможности контроля со стороны государственных институтов и самих создателей нейросетей. Основной акцент в предложении сделан на необходимости скоординированного подхода для минимизации глобальных рисков, связанных с бесконтрольным внедрением ИИ-решений.
Защита несовершеннолетних в цифровой среде
Особое внимание в докладе было уделено безопасности детей, которые являются наиболее уязвимой категорией пользователей. Гутерриш отметил, что отсутствие жестких рамок уже привело к негативным последствиям. По данным мониторинга, зафиксированы инциденты, когда алгоритмы ИИ, имитирующие дружеское общение, провоцировали детей на деструктивное поведение и самоповреждение.
Для решения этой проблемы была предложена концепция «Обязательства по обеспечению безопасности детей в сфере ИИ». Данный документ предполагает внедрение следующих мер:
- Обязательная сертификация безопасности систем до их выпуска в открытый доступ.
- Внедрение алгоритмов верификации возраста и фильтрации потенциально опасного контента.
- Установление ответственности компаний-разработчиков за манипулятивное воздействие ИИ на психику детей.
Глобальный контроль и ответственность разработчиков
Генсек ООН выразил обеспокоенность тем, что разработчики зачастую не до конца осознают долгосрочные последствия работы собственных алгоритмов. Согласно позиции организации, добровольных этических кодексов компаний уже недостаточно для обеспечения общественной безопасности.
Развитие технологий ИИ опережает возможности их контроля даже со стороны разработчиков. Нам нужны обязательные правила, которые гарантируют, что безопасность будет заложена в архитектуру ИИ еще на этапе проектирования.
Введение международных стандартов позволит создать предсказуемую правовую среду для технологического сектора и предотвратить фрагментацию рынка из-за различий в национальных законодательствах.
Разработка и принятие глобальных правил регулирования ИИ может стать ключевым этапом в формировании цифровой этики XXI века. В ближайшее время ожидается начало межправительственных консультаций, целью которых станет выработка конкретных механизмов надзора за развитием генеративных моделей и автономных систем. Успех этой инициативы будет зависеть от готовности ведущих технологических держав к открытому диалогу и обмену экспертизой.