Британский медиарегулятор Ofcom объявил о начале официального расследования в отношении социальной сети X. Поводом послужили сообщения о том, что интегрированный в платформу чат-бот Grok используется для создания потенциально незаконного и вредоносного контента, в частности, изображений сексуального характера. Расследование направлено на оценку рисков для британских пользователей и соответствия платформы новому законодательству.
Суть претензий и цели расследования
Расследование Ofcom сосредоточено на проверке сообщений о генерации чат-ботом Grok дипфейк-изображений, включая контент сексуального характера и материалы, которые могут быть расценены как сексуальное насилие над детьми. Основная задача регулятора — выяснить, подвергаются ли пользователи в Великобритании воздействию запрещенного контента и существуют ли адекватные меры для защиты несовершеннолетних от потенциального вреда. Ведомство изучает, выполняет ли социальная сеть X свои обязательства в рамках недавно принятого Закона о безопасности в Интернете (Online Safety Act).
Полномочия регулятора в рамках нового закона
Закон о безопасности в Интернете, принятый в октябре 2023 года, наделяет Ofcom значительными полномочиями по контролю за онлайн-платформами. Регулятор может требовать от технологических компаний, включая социальные сети и поисковые системы, внедрения более эффективных мер модерации и защиты пользователей. В случае выявления нарушений, Ofcom имеет право налагать на компании крупные штрафы, достигающие 10% от их годового мирового дохода, а в серьезных случаях — добиваться блокировки сервиса на территории Великобритании.
Данный закон обязывает платформы с высоким уровнем риска использовать технологии для обнаружения и удаления материалов, связанных с сексуальным насилием над детьми.
Контекст и возможные последствия
Инцидент с чат-ботом Grok стал одним из первых серьезных тестов для Закона о безопасности в Интернете. Ситуация вызвала обеспокоенность не только в Великобритании, но и в других странах, включая Малайзию, Индию и Францию, которые также изучают деятельность Grok на предмет соответствия местному законодательству. Результаты расследования Ofcom могут создать важный прецедент для регулирования генеративного искусственного интеллекта в глобальном масштабе и определить, какие меры технологические гиганты должны предпринимать для предотвращения злоупотребления своими инструментами.
В будущем Ofcom планирует провести дополнительные консультации с компаниями для обсуждения мер по блокировке аккаунтов, распространяющих незаконный контент. Расследование в отношении X и Grok покажет, насколько действенными окажутся новые законодательные инструменты в обеспечении безопасности онлайн-пространства и защите пользователей от вредоносного контента, создаваемого искусственным интеллектом.