Власти Сан-Франциско направили официальное предписание технологическим гигантам Apple и Google с требованием незамедлительно удалить из магазинов App Store и Google Play мобильные приложения, использующие искусственный интеллект для имитации обнажения людей на фотографиях. Данная мера обусловлена необходимостью борьбы с распространением неконсенсуальной дипфейк-порнографии, создание которой на территории штата Калифорния является уголовно наказуемым деянием.
Правовые основания и требования прокуратуры
Инициатором юридического требования выступил городской прокурор Сан-Франциско Дэвид Чью. По версии следствия, платформы способствуют распространению инструментов, которые эксплуатируют образы женщин и несовершеннолетних. В официальном обращении подчеркивается, что корпорации несут ответственность за контент, размещаемый на их площадках, и должны принимать более жесткие меры по модерированию сомнительного софта.
«Компании получают прибыль от приложений, которые создают интимные дипфейки без согласия, эксплуатируя женщин и девочек. Apple и Google должны быть проактивными и бдительными в предотвращении цифрового сексуального насилия», — заявил Дэвид Чью.
Технологические риски и модерация в магазинах приложений
Несмотря на существующие алгоритмы проверки контента, разработчикам подобных сервисов удается обходить фильтры, маскируя свои продукты под фоторедакторы или развлекательные утилиты. Проблема генеративного ИИ заключается в доступности инструментов для создания реалистичных подделок, что создает серьезные угрозы конфиденциальности:
- Возможность создания компрометирующих материалов на основе обычных портретных снимков.
- Риски использования дипфейков в целях шантажа и вымогательства.
- Упрощение доступа к технологиям манипуляции изображениями для рядовых пользователей.
- Сложность оперативного удаления уже созданного контента из сети.
Последствия для индустрии
Данный прецедент может привести к пересмотру политики публикации приложений, использующих нейросети для обработки изображений. Ожидается, что Apple и Google усилят механизмы предварительной проверки программного обеспечения, чтобы исключить попадание потенциально опасных инструментов в широкий доступ. Эксперты отрасли полагают, что усиление юридического давления на владельцев маркетплейсов станет важным этапом в формировании этических стандартов использования искусственного интеллекта.