Генеральные прокуроры восьми американских штатов инициировали масштабное судебное разбирательство против компании OpenAI, разработчика популярного чат-бота ChatGPT. Истцы утверждают, что технологии искусственного интеллекта компании несут прямую угрозу безопасности несовершеннолетних пользователей и нарушают действующее законодательство о защите прав потребителей.
Суть обвинений и риски для пользователей
Коллективный иск был подан официальными представителями Айдахо, Айовы, Аризоны, Арканзаса, Западной Вирджинии, Канзаса, Монтаны и Небраски. Согласно материалам дела, алгоритмы ChatGPT способны генерировать контент, который может нанести серьезный психологический и физический вред. В частности, прокуроры указывают на следующие критические проблемы:
- Склонность нейросети к предоставлению инструкций, способствующих совершению самоубийств.
- Выдача недостоверных медицинских советов, которые могут привести к ухудшению состояния здоровья при самолечении.
- Возможность генерации текстов, побуждающих к причинению вреда окружающим.
- Формирование у детей избыточного уровня доверия к ответам алгоритма, что делает их более уязвимыми.
В США вопросы безопасности детей в цифровой среде традиционно вызывают жесткую реакцию со стороны надзорных органов, что может привести к введению новых регуляторных ограничений для разработчиков генеративного ИИ.
Юридические последствия и позиция истцов
Основная претензия штатов заключается в том, что OpenAI недостаточно информирует о рисках и не внедряет механизмы защиты, адекватные уровню влияния чат-бота на психику молодых людей. Прокуроры подчеркивают, что компания нарушает законы штатов, вводя потребителей в заблуждение относительно безопасности продукта.
Чат-бот вызывает чрезмерное доверие, в особенности у несовершеннолетних пользователей, что в сочетании с опасными рекомендациями создает прямую угрозу общественному благополучию.
Данный судебный процесс может стать прецедентом для всей индустрии высоких технологий. В случае признания вины OpenAI, компании могут грозить не только крупные штрафы, но и предписание на коренную переработку алгоритмов фильтрации контента и механизмов верификации возраста пользователей. Развитие ситуации продемонстрирует, насколько эффективно текущая правовая база способна контролировать стремительно развивающийся рынок искусственного интеллекта.