Администрация города Балтимор инициировала судебное разбирательство против технологической компании xAI, принадлежащей Илону Маску, обвинив ее в нарушении стандартов безопасности при разработке нейросети Grok. Согласно исковому заявлению, поданному в окружной суд, алгоритмы искусственного интеллекта позволяют создавать неприемлемый контент, включая порнографические дипфейки и материалы, связанные с сексуальной эксплуатацией несовершеннолетних.
Масштабы нарушений и претензии к безопасности
В материалах дела подчеркивается несоответствие между маркетинговым позиционированием чат-бота и его фактическим функционалом. Несмотря на заявления разработчиков о том, что Grok является безопасным ИИ-помощником, истцы указывают на серьезные пробелы в фильтрации генерируемого контента. В качестве доказательной базы используются данные Центра борьбы с ненавистью в цифровом пространстве (CCDH).
- За 11-дневный период мониторинга через систему было создано около 3 миллионов реалистичных сексуализированных изображений.
- Из этого объема более 23 000 генераций содержали признаки эксплуатации детей.
- Истцы утверждают, что такие действия нарушают законы о защите прав потребителей.
Центр борьбы с ненавистью в цифровом пространстве — некоммерческая организация, занимающаяся мониторингом вредоносного контента на крупных онлайн-платформах.
Юридические последствия для индустрии ИИ
Данный иск может стать важным прецедентом в вопросе ответственности разработчиков за действия своих нейросетей. Власти Балтимора настаивают, что бесконтрольное распространение подобных технологий наносит ущерб общественной безопасности.
xAI позиционирует Grok как безопасного помощника, однако его работа может нарушать действующее законодательство, — отмечается в судебном документе.
Юристы полагают, что исход дела повлияет на то, какие меры предосторожности будут обязаны внедрять создатели генеративного ИИ в будущем.
Судебный процесс против xAI подчеркивает растущую обеспокоенность регуляторов качеством модерации в современных языковых моделях. В ближайшее время ожидается ответная реакция представителей Илона Маска, которая определит дальнейший вектор развития инструментов генерации контента и их правовых рамок.