Компания OpenAI официально приостановила разработку и запуск специализированного чат-бота, предназначенного для создания контента «для взрослых». Решение об изменении приоритетов было принято на фоне внутренней дискуссии и необходимости сосредоточиться на развитии основных ИИ-продуктов, таких как GPT-5 и мультимодальные системы управления.
Этические риски и безопасность пользователей
Ранее внутри компании и среди ключевых инвесторов возникли серьезные опасения относительно этического влияния ИИ-контента сексуального характера на общество. Основные риски, выделенные экспертами, включают:
- Возможное формирование деструктивной эмоциональной зависимости пользователей от алгоритмов.
- Риск случайного доступа несовершеннолетних к нежелательному контенту.
- Потенциальный ущерб репутации бренда как разработчика безопасного и универсального ИИ.
Подобные опасения актуальны на фоне растущего рынка ИИ-компаньонов, где вопросы модерации остаются наиболее сложными для регулирования.
Планы по долгосрочным исследованиям
Представители OpenAI подчеркнули, что на данный момент график выпуска продукта отсутствует. Вместо немедленного релиза компания намерена инициировать масштабное исследование, направленное на изучение влияния романтической и сексуальной привязанности человека к искусственному интеллекту.
Компания заявила о намерении провести долгосрочное исследование влияния чат-ботов для взрослых и эмоциональной привязанности перед принятием продуктовых решений.
Такой подход подчеркивает стремление разработчика к соблюдению принципов безопасности (AI Safety) и минимизации социальных рисков перед коммерциализацией спорных направлений.
В условиях отсутствия четких законодательных норм, регулирующих генерацию контента «18+» нейросетями, OpenAI выбирает путь консервативного развития. Ожидается, что результаты анонсированных исследований в будущем лягут в основу обновленных правил использования API и пользовательских сервисов компании, определяя границы допустимого взаимодействия человека и машины.