Компания Apple в начале текущего года рассматривала возможность удаления приложения Grok из своего магазина цифрового контента App Store. Основной причиной жесткой позиции корпорации из Купертино стали многочисленные жалобы пользователей на распространение порнографических дипфейков, сгенерированных нейросетью в социальной сети X. Данный инцидент подчеркивает растущую проблему модерации контента, созданного искусственным интеллектом, и жесткие требования Apple к безопасности приложений.
Причины конфликта и требования Apple
Согласно внутренним данным, в январе Apple направила официальное предупреждение разработчикам Grok и руководству платформы X. Регуляторы магазина приложений выразили обеспокоенность тем, что инструменты генеративного ИИ использовались для создания неприемлемого контента, нарушающего политику безопасности. Apple традиционно предъявляет строгие требования к приложениям, содержащим пользовательский контент, требуя наличия эффективных систем фильтрации.
В ходе разбирательства были выделены ключевые проблемные зоны:
- Недостаточная фильтрация запросов на создание реалистичных изображений людей.
- Свободное распространение сгенерированного контента 18+ в ленте социальной сети.
- Отсутствие оперативных механизмов жалоб на специфические нарушения, связанные с ИИ.
Урегулирование ситуации и новые меры модерации
После получения ультиматума команда X представила Apple детальный план по модернизации системы модерации. Несмотря на то, что первоначальная версия Grok не соответствовала стандартам App Store, серия доработок позволила сохранить приложение на платформе. В результате взаимодействия между компаниями были внедрены дополнительные программные ограничения, блокирующие генерацию потенциально вредоносного контента.
После дополнительного взаимодействия и внесения изменений, Apple одобрила дальнейшее распространение Grok в App Store, признав меры по защите пользователей достаточными на текущем этапе.
Перспективы регулирования ИИ-сервисов
Данный случай стал важным прецедентом в отношениях между владельцами маркетплейсов и разработчиками нейросетей. Инцидент с Grok демонстрирует, что технологические гиганты намерены возлагать полную ответственность за результаты работы алгоритмов на их создателей. В будущем ожидается ужесточение правил публикации для всех программных продуктов, использующих генеративные модели, что потребует от компаний более значительных инвестиций в этику и безопасность ИИ.