Компании Apple и Google столкнулись с критикой из-за размещения в своих официальных магазинах десятков приложений, использующих искусственный интеллект для генерации обнаженных изображений на основе реальных фотографий. Согласно недавнему отчету Проекта технологической прозрачности (TTP), в магазинах приложений было обнаружено более ста подобных программ, что вызвало оперативную реакцию со стороны технологических гигантов и привело к массовым чисткам каталогов ПО.
Масштабы проблемы и результаты проверки
В ходе мониторинга, проведенного в январе, эксперты выявили 55 сомнительных приложений в Google Play и 47 в Apple App Store. Данные программы позиционировались как инструменты для «раздевания» людей на фото с помощью нейросетей, что напрямую нарушает этические нормы и правила безопасности цифровых платформ. Подобный контент классифицируется как неконсенсуальная порнография, созданная с помощью ИИ, и представляет серьезную угрозу для конфиденциальности пользователей.
Реакция Apple и меры по обеспечению безопасности
После получения официального отчета от правозащитников, корпорация Apple предприняла решительные действия:
- Из App Store было удалено 28 приложений, нарушающих политику компании.
- Разработчикам оставшихся программ направлены официальные предупреждения о недопустимости подобного функционала.
- Усилен контроль за модерацией обновлений, поступающих от создателей графических редакторов на базе ИИ.
Представители Apple подтвердили, что два ранее удаленных приложения были возвращены в магазин только после того, как разработчики полностью исключили запрещенные функции и привели ПО в соответствие с требованиями платформы.
Перспективы регулирования ИИ-контента
Ситуация подчеркивает растущую проблему контроля над генеративным ИИ в экосистемах мобильных устройств. Несмотря на строгие фильтры Google и Apple, разработчики находят способы обходить автоматическую модерацию, используя двусмысленные описания и скрытый функционал. В дальнейшем ожидается, что обе корпорации внедрят более продвинутые алгоритмы машинного обучения для превентивного обнаружения инструментов, предназначенных для создания вредоносных дипфейков.
Инцидент с Проектом технологической прозрачности стал очередным сигналом для индустрии о необходимости ужесточения правил размещения AI-сервисов. В условиях стремительного развития нейросетевых технологий ответственность магазинов приложений за распространение потенциально опасного контента становится ключевым фактором защиты цифровой среды.