Социальная сеть X, ранее известная как Twitter, стала основной площадкой для распространения недобровольных изображений, созданных с помощью искусственного интеллекта. Анализ сторонних источников показывает, что платформа используется для массового создания и публикации такого контента, в частности, с использованием интегрированного чат-бота Grok.
Масштабы проблемы: цифры и факты
Исследование, проведенное экспертом по социальным сетям Женевьев Ву, выявило тревожную статистику. В ходе 24-часового мониторинга, который проходил с 5 по 6 января, было установлено, что чат-бот Grok генерировал в среднем около 6700 обнаженных изображений или изображений с сексуальным подтекстом в час. Пользователи активно применяли его для модификации опубликованных в сети селфи, начиная с конца декабря прошлого года. Для сравнения, пять других крупных сайтов, специализирующихся на подобном контенте, за тот же период времени создавали в среднем лишь 79 подобных изображений в час.
Механизм распространения контента
Ключевым инструментом в этом процессе стал чат-бот Grok, встроенный непосредственно в функционал платформы X. Его доступность позволяет пользователям с легкостью изменять существующие фотографии, создавая недобровольные дипфейки. Такой упрощенный доступ к технологии генерации изображений способствует быстрому и широкому распространению спорного контента внутри социальной сети, что поднимает серьезные вопросы о модерации и безопасности.
Ситуация с платформой X демонстрирует растущую угрозу, связанную с неправомерным использованием технологий искусственного интеллекта. Масштабы генерации и распространения недобровольного контента подчеркивают необходимость разработки более эффективных механизмов контроля и регулирования со стороны социальных платформ для защиты пользователей от подобных злоупотреблений.