Ирландская комиссия по защите данных (DPC) официально инициировала расследование в отношении социальной сети X (бывший Twitter) в связи с генерацией и распространением непристойного контента, созданного искусственным интеллектом. В центре внимания регулятора ЕС находится вопрос соблюдения платформой норм Общего регламента по защите данных (GDPR) при использовании персональной информации европейских пользователей для обучения и работы нейросети Grok.
Причины правового разбирательства
Поводом для вмешательства надзорных органов послужили многочисленные сообщения о том, что функционал ИИ-бота @Grok позволял генерировать реалистичные сексуализированные изображения реальных личностей без их согласия. Особую обеспокоенность комиссии вызвали факты, указывающие на возможность создания подобного контента с участием несовершеннолетних, что является грубым нарушением законодательства о безопасности в цифровой среде.
- Проверка соблюдения принципов конфиденциальности при обработке данных.
- Оценка механизмов фильтрации вредоносного контента в ИИ-моделях.
- Анализ рисков для прав и свобод граждан ЕС в условиях бесконтрольной генерации дипфейков.
Обязательства платформы в рамках GDPR
Ирландская комиссия, выступающая ведущим регулятором для многих технологических гигантов в Европе, намерена выяснить, предпринимала ли компания X достаточные меры для минимизации рисков. Согласно регламенту, любая обработка персональных данных для систем машинного обучения должна быть прозрачной и иметь четкое правовое основание. Если нарушения подтвердятся, платформе могут грозить многомиллионные штрафы, достигающие 4% от годового мирового оборота компании.
Комиссия проверит соблюдение компанией своих основных обязательств в соответствии с GDPR в контексте создания и распространения потенциально вредоносных изображений.
Текущее разбирательство подчеркивает растущую строгость европейских регуляторов в отношении технологий генеративного ИИ. Исход дела может создать важный юридический прецедент для всех разработчиков нейросетей, работающих на рынке Евросоюза, обязав их внедрять более жесткие этические и технические фильтры на этапе проектирования алгоритмов.