Компания OpenAI официально объявила о внедрении расширенного комплекса мер для обеспечения прозрачности цифрового контента. В рамках новой инициативы разработчик популярных нейросетей интегрирует поддержку открытого стандарта C2PA и технологию скрытой маркировки SynthID для точной идентификации изображений, созданных искусственным интеллектом. Эти изменения призваны повысить уровень доверия пользователей и упростить проверку подлинности визуальных материалов в сети.
Технические стандарты и метаданные C2PA
Ключевым инструментом для отслеживания происхождения графики станет стандарт, разработанный Коалицией по происхождению и подлинности контента (Coalition for Content Provenance and Authenticity). Теперь изображения, генерируемые через продукты OpenAI, будут содержать специальные метаданные.
Основные характеристики внедряемого решения включают:
- Интеграция цифровой подписи, подтверждающей использование ИИ-инструментов.
- Проверка истории изменений файла через специализированные сервисы.
- Устойчивость к базовому редактированию (например, изменению формата).
Сотрудничество с Google и водяные знаки SynthID
Помимо открытых стандартов метаданных, OpenAI начинает активное сотрудничество с корпорацией Google для использования технологии SynthID. В отличие от метаданных, которые могут быть удалены при определенных манипуляциях, SynthID представляет собой невидимый водяной знак, встраиваемый непосредственно в пиксельную структуру изображения.
Внедрение данных мер позволит существенно снизить риски дезинформации, предоставляя пользователям четкое понимание того, создан ли контент человеком или алгоритмом.
Важно отметить, что на данном этапе новые протоколы безопасности будут распространяться исключительно на файлы, созданные внутри экосистемы OpenAI.
Реализация данных протоколов безопасности является важным шагом в развитии этичного искусственного интеллекта. По мере совершенствования генеративных моделей подобные стандарты маркировки, вероятно, станут обязательными для всех крупных игроков рынка, формируя единую среду верификации цифровых данных.