Генеральная прокуратура Калифорнии начала официальное расследование в отношении компании xAI, принадлежащей Илону Маску, в связи с деятельностью нейросети Grok. Поводом для разбирательства стали многочисленные сообщения о том, что инструменты искусственного интеллекта платформы использовались для создания дипфейков сексуального характера и материалов, изображающих насилие над несовершеннолетними. В связи с этим в адрес компании было направлено предписание о немедленном прекращении генерации противоправного контента.
Суть претензий к чат-боту Grok
Расследование было инициировано после появления доказательств того, что пользователи применяют генеративные модели xAI для создания откровенных изображений реальных женщин и детей без их согласия. Подобные инциденты вызывают серьезную обеспокоенность в сфере цифровой безопасности и этики ИИ. Согласно материалам прокуратуры, технологические возможности чат-бота позволяли обходить базовые фильтры безопасности, что привело к распространению вредоносного контента в сети.
Генеральный прокурор Калифорнии Роб Бонта подчеркнул жесткую позицию штата в данном вопросе:
Предписание требует от компании немедленно принять меры по прекращению создания личных изображений без согласия и материалов, содержащих сексуальное насилие над детьми. Создание таких материалов является незаконным, и Калифорния придерживается политики нулевой терпимости к ним.
Регуляторные меры и ответственность
В рамках предписания компания xAI обязана пересмотреть свои алгоритмы модерации и внедрить технические ограничения, исключающие возможность генерации дипфейков. Основные требования властей включают:
- Прекращение генерации любых реалистичных изображений лиц без их ведома и согласия.
- Внедрение строгих фильтров для блокировки запросов, связанных с сексуальным насилием.
- Предоставление отчета о мерах, принятых для предотвращения нарушений в будущем.
Юридические эксперты отмечают, что игнорирование данных требований может привести к крупным штрафам и судебным искам против технологического гиганта. Это дело становится важным прецедентом в регулировании ответственности разработчиков ИИ за действия пользователей их продуктов.
Данная ситуация подчеркивает нарастающее давление со стороны государственных органов на индустрию искусственного интеллекта. Ожидается, что инцидент с xAI ускорит принятие новых законопроектов в США, направленных на борьбу с несанкционированным созданием дипфейков и защиту частной жизни в цифровую эпоху. Противостояние между регуляторами и разработчиками переходит в фазу установления четких правовых границ для генеративных технологий.