Искусственный интеллект Grok, разработанный стартапом Илона Маска xAI, оказался в центре крупного скандала из-за массовой генерации непристойного контента. Согласно данным последних исследований, за короткий промежуток времени чат-бот, интегрированный в социальную платформу X, создал миллионы сексуализированных изображений, что вызвало резкую критику со стороны международных правозащитных организаций и экспертов по кибербезопасности.
Масштабы генерации контента и технические возможности
Специалисты Центра противодействия онлайн-ненависти (CCDH) проанализировали активность нейросети после внедрения функции редактирования фотографий. По результатам мониторинга, всего за 11 дней работы системы было создано около 3 миллионов изображений откровенного характера. Технология позволяет пользователям изменять существующие фотографии с помощью простых текстовых команд (промптов), что значительно упрощает создание дипфейков. Исследователи подчеркивают высокую интенсивность работы алгоритмов: в среднем нейросеть выдавала до 190 непристойных фотографий в минуту.
Риски для безопасности и общественная реакция
Особую обеспокоенность экспертов вызвал тот факт, что среди сгенерированного контента были обнаружены материалы, затрагивающие интересы несовершеннолетних. По предварительным оценкам, количество изображений, на которых предположительно запечатлены дети, составило около 23 000 единиц. Данная ситуация спровоцировала волну протестов по всему миру, так как отсутствие жестких фильтров в продукте xAI ставит под угрозу цифровую безопасность и этические нормы использования ИИ.
Масштаб созданного ИИ контента откровенного содержания вызвал сильные протесты по всему миру
Перспективы регулирования ИИ-инструментов
Текущий инцидент с Grok актуализирует вопрос о необходимости введения строгих законодательных ограничений для разработчиков генеративных моделей. На данный момент платформа X и стартап xAI сталкиваются с давлением со стороны регуляторов, требующих внедрения эффективных механизмов модерации. Дальнейшее развитие ситуации будет зависеть от готовности технологических компаний сотрудничать с государственными органами для предотвращения злоупотреблений возможностями искусственного интеллекта в будущем.