Компания Character.AI анонсировала запуск новой функции «Истории», которая представляет собой инструмент для создания интерактивных художественных произведений. Это нововведение стало прямой заменой основной функции чат-ботов для пользователей младше 18 лет, доступ к которой был полностью прекращен на этой неделе в связи с растущими опасениями по поводу безопасности.
Новый формат взаимодействия: что такое «Истории»?
Функция «Истории» предлагает пользователям управляемый и структурированный способ создания и исследования вымышленных сюжетов. В отличие от неограниченного диалога с чат-ботом, новый формат работает по принципу «выбери свое собственное приключение», где пользователи могут выбирать персонажей, жанр, задавать завязку сюжета и далее влиять на его развитие посредством предложенных вариантов. По заявлению компании, такой подход позволяет сохранить творческую составляющую платформы, но в более контролируемой и безопасной среде, исключающей риски, связанные с непредсказуемыми беседами.
Причины изменений: безопасность и судебные иски
Решение об ограничении доступа для несовершеннолетних было принято на фоне усиливающегося давления со стороны регуляторов и ряда судебных исков, в которых утверждалось, что взаимодействие с ИИ-персонажами нанесло вред психическому здоровью подростков. Внедрение ограничений происходило поэтапно: в течение последнего месяца для несовершеннолетних действовал лимит на общение с чат-ботами, который постепенно сокращался. Полный запрет на неограниченные диалоги для этой категории пользователей вступил в силу 25 ноября 2025 года. Для контроля за соблюдением возрастных ограничений Character.AI внедряет новую систему проверки возраста, сочетающую собственные разработки и инструменты сторонних компаний.
Реакция со стороны молодой аудитории оказалась неоднозначной. В то время как некоторые пользователи выразили разочарование в связи с потерей доступа к привычной функции, другие признали, что этот шаг может помочь в борьбе с формированием зависимости от ИИ-собеседников.
Перспективы и стандарты безопасности
Этот шаг Character.AI является одной из самых значительных мер по обеспечению безопасности несовершеннолетних в индустрии чат-ботов. Помимо запуска «Историй», компания также объявила о создании независимой некоммерческой организации AI Safety Lab, которая займется разработкой мер безопасности для развлекательных сервисов на базе искусственного интеллекта. Таким образом, компания стремится не только обезопасить свою платформу, но и задать новые стандарты для всей отрасли, сталкивающейся с необходимостью защиты уязвимых категорий пользователей.
В заключение, замена неограниченных чатов на интерактивные «Истории» для подростков знаменует собой важный сдвиг в политике Character.AI. Компания делает ставку на более структурированное и безопасное взаимодействие, пытаясь найти баланс между предоставлением творческих инструментов и защитой ментального благополучия своей молодой аудитории.