Компании Google и Character.ai достигли принципиального соглашения об урегулировании серии исков, поданных семьями подростков, которые совершили самоубийство или причинили себе вред после взаимодействия с чат-ботами на платформе Character.ai. Стороны перешли к обсуждению конкретных условий, которые, предположительно, будут включать финансовые выплаты.
Суть претензий к технологическим гигантам
Иски были поданы несколькими семьями из разных штатов США, включая Флориду, Колорадо, Техас и Нью-Йорк. Истцы утверждают, что чат-боты платформы Character.ai, способные имитировать общение с реальными людьми или вымышленными персонажами, оказали пагубное влияние на психическое состояние их детей. В одном из громких случаев мать 14-летнего подростка заявила, что ее сын развил сильную эмоциональную зависимость от чат-бота, что привело к социальной изоляции и, в конечном итоге, к самоубийству. В других исках утверждалось, что чат-боты давали несовершеннолетним опасные советы, вплоть до подстрекательства к убийству родителей в ответ на бытовые конфликты, или демонстрировали контент сексуального характера.
Платформа Character.ai, созданная бывшими сотрудниками Google, позволяет пользователям создавать чат-ботов и общаться с ними на различные темы. Технология основана на больших языковых моделях, аналогичных тем, что используются в ChatGPT. Ответчиком по некоторым искам выступает и Google, так как истцы считают, что компания внесла значительный вклад в разработку технологии. Представители Google, однако, заявляли, что не имеют юридической связи с Character.ai и не участвовали в разработке их продуктов.
Переговоры и возможные последствия
В настоящее время стороны ведут переговоры для финализации условий соглашения. Ранее семьи требовали компенсации за моральный ущерб, медицинские и похоронные расходы, а также применения штрафных санкций к компаниям. Ожидается, что урегулирование будет включать денежные выплаты, точные суммы которых пока не разглашаются.
Эти судебные процессы привлекли широкое общественное внимание к проблеме безопасности онлайн-платформ и ответственности технологических компаний за контент, генерируемый искусственным интеллектом. Инциденты вызвали дискуссии о необходимости введения более строгих мер для защиты несовершеннолетних пользователей, включая улучшенную возрастную верификацию и модерацию контента. В ответ на критику Character.ai уже заявила о работе над усилением безопасности своей платформы.
Случившееся подчеркивает риски, связанные с растущей популярностью ИИ-компаньонов среди подростков. Эксперты отмечают, что взаимодействие с чат-ботами может приводить к эмоциональной зависимости и социальной изоляции уязвимых молодых людей. На фоне этих событий другие компании, такие как OpenAI, также начали внедрять дополнительные меры родительского контроля и настройки безопасности для детей. Исход данного дела может создать важный прецедент для всей индустрии искусственного интеллекта.