Амстердамский суд вынес прецедентное решение, запрещающее компании xAI Илона Маска использовать алгоритмы чат-бота Grok для генерации и распространения интимных изображений без согласия субъектов. Постановление направлено на пресечение создания несогласованного порнографического контента (дипфейков) на территории Нидерландов, что ставит новые юридические рамки для функционирования социальной платформы X в европейской юрисдикции.
Правовые последствия для платформы X и xAI
Судебное разбирательство было инициировано после ряда инцидентов, когда пользователи социальной сети X использовали встроенный инструмент Grok для синтеза реалистичных изображений обнаженных женщин и несовершеннолетних. Несмотря на то что xAI уже ввела частичные программные ограничения на подобные запросы, суд счел эти меры недостаточными для полной защиты прав граждан.
- Запрет касается генерации любого контента «adult-содержания» без явного разрешения прототипов.
- Исполнение решения обязательно для всех сервисов компании на территории страны.
- Предусмотрены строгие санкции за несоблюдение предписаний надзорных органов.
Регулирование ИИ в контексте европейского законодательства
Данный вердикт совпадает с вектором развития общеевропейской политики в области искусственного интеллекта. В настоящее время Европейский Союз финализирует свод правил, известных как AI Act, которые предполагают полный запрет на создание дипфейков и манипулятивного контента без надлежащей маркировки или согласия участников.
Суд подчеркнул необходимость соблюдения права на конфиденциальность и телесную неприкосновенность в цифровую эпоху, когда технологии ИИ позволяют создавать компрометирующие материалы в промышленных масштабах.
Решение нидерландского суда создает важный юридический барьер для бесконтрольного использования генеративных моделей в социальных медиа. Ожидается, что в ближайшем будущем подобные ограничения станут стандартом для технологических компаний, работающих на рынке ЕС, что потребует от разработчиков более жесткой модерации входных данных и выходного контента нейросетей.