Компания Google интегрировала в свое приложение Gemini новую функцию для проверки подлинности изображений. Теперь пользователи могут загрузить фотографию и определить, была ли она создана или изменена с помощью инструментов искусственного интеллекта от Google. Этот шаг направлен на повышение прозрачности цифрового контента и борьбу с распространением дезинформации.
Как работает технология идентификации
В основе новой функции лежит технология SynthID — собственная разработка Google DeepMind. Она встраивает в пиксели изображения специальный цифровой водяной знак, который невидим для человеческого глаза, но может быть распознан специальным алгоритмом. Эта метка сохраняется даже после таких манипуляций с изображением, как обрезка, применение фильтров или изменение цветов. При загрузке картинки в Gemini система сканирует ее на наличие такого знака и сообщает пользователю о происхождении контента.Текущие возможности и ограничения
На данном этапе Gemini может с высокой точностью идентифицировать только те изображения, которые были созданы с помощью нейросетей Google, так как именно в них встраивается метка SynthID. Если изображение было сгенерировано сторонними сервисами, чат-бот не сможет подтвердить его происхождение.- Поддерживаемый контент: Изображения, созданные ИИ-инструментами Google.
- Неподдерживаемый контент: Изображения от других нейросетей (например, Midjourney или DALL-E).
- Устойчивость метки: Сохраняется при базовом редактировании, включая сжатие.
Важно отметить, что технология не защищена от целенаправленных и сложных манипуляций, направленных на удаление водяного знака.
Перспективы развития и борьба с дипфейками
Внедрение функции проверки в Gemini является частью более широкой инициативы Google по обеспечению прозрачности в области ИИ-контента. В будущем компания планирует расширить возможности SynthID для детекции аудио- и видеоматериалов, а также интегрировать поддержку стандартизированных учетных данных C2PA (Coalition for Content Provenance and Authenticity). Это позволит распознавать контент, созданный не только в экосистеме Google, но и другими крупными компаниями, такими как Microsoft и Adobe.Борьба с дипфейками и сгенерированной дезинформацией становится одной из ключевых задач для технологической индустрии. Развитие инструментов, подобных SynthID, играет решающую роль в создании более безопасного и заслуживающего доверия цифрового пространства, где пользователи смогут легко отличать оригинальный контент от созданного искусственным интеллектом.