Социальная сеть X (бывший Twitter) внедряет жесткие меры регулирования в отношении контента, созданного с помощью искусственного интеллекта. Платформа официально объявила о начале борьбы с авторами, которые публикуют сгенерированные нейросетями видеоролики о вооруженных конфликтах, не сопровождая их соответствующими метками. Новые правила направлены на предотвращение распространения дезинформации и манипулирования общественным мнением в условиях глобальной нестабильности.
Финансовые санкции и блокировка монетизации
Руководитель отдела продуктов X Никита Бир сообщила, что за использование ИИ-технологий для создания вводящего в заблуждение контента предусмотрены серьезные административные взыскания. Основной мерой воздействия станет ограничение доступа к финансовым инструментам платформы.
- При первом нарушении автор отстраняется от программы распределения доходов (Ads Revenue Sharing) сроком на три месяца.
- В случае повторного нарушения после восстановления прав участие в программе монетизации будет запрещено навсегда.
- Модерация будет касаться видеороликов, которые могут быть ошибочно приняты за реальные кадры из зон боевых действий.
«Современные технологии ИИ позволяют легко создавать вводящий в заблуждение контент. В периоды военных действий крайне важно обеспечить пользователям доступ к достоверной информации», — подчеркнула Бир, объясняя необходимость введения новых ограничений.
Ранее эксперты в области кибербезопасности неоднократно выражали обеспокоенность по поводу роста числа дипфейков, связанных с мировыми конфликтами.
Борьба с дезинформацией в эпоху дипфейков
Усиление правил модерации связано с совершенствованием генеративных моделей, способных создавать гиперреалистичные изображения и видео. Платформа X стремится минимизировать риски, при которых синтетический контент выдается за документальную хронику. Это решение коррелирует с общей тенденцией технологических гигантов по внедрению стандартов прозрачности для материалов, созданных при помощи нейросетей.
Данная инициатива является частью масштабной стратегии X по повышению качества контента. Ожидается, что новые меры снизят стимулы для создания провокационных материалов ради получения прибыли и помогут пользователям лучше ориентироваться в информационном потоке. Эффективность системы будет зависеть от точности алгоритмов распознавания ИИ-генераций и оперативности работы службы модерации.