Генеральный прокурор штата Флорида направил в суд ходатайство с требованием наложить запрет на разработку новых моделей искусственного интеллекта компанией OpenAI без обеспечения внешнего независимого надзора. Данная инициатива стала частью масштабного судебного разбирательства, в рамках которого технологического гиганта обвиняют в нарушении норм безопасности и причинении вреда несовершеннолетним пользователям через платформу ChatGPT.
Суть претензий и обвинения в адрес разработчика
Исковое заявление, поданное штатом Флорида еще в июне, основывается на утверждении, что OpenAI предоставляла заведомо ложные сведения о защищенности своего продукта. По мнению стороны обвинения, отсутствие жестких фильтров и механизмов контроля привело к ряду инцидентов, связанных с психическим и физическим здоровьем молодых людей. В тексте иска подчеркивается, что алгоритмы чат-бота могут способствовать формированию опасных поведенческих паттернов у подростков.
Прокуратура выделяет несколько ключевых рисков, связанных с использованием текущих версий ChatGPT:
- Предоставление потенциально опасной информации, которая может быть использована для подготовки насильственных действий;
- Генерация контента, содержащего инструкции по самоповреждению;
- Формирование у несовершеннолетних пользователей психологической зависимости от взаимодействия с ИИ;
- Придание платформе антропоморфных качеств, что вводит пользователей в заблуждение относительно природы нейросети.
Требования прокуратуры и правовые последствия
Генеральный прокурор Джеймс Усхмайер настаивает на введении временного запрета, который ограничит возможность OpenAI выпускать новые итерации моделей до тех пор, пока не будет внедрена прозрачная система государственного или общественного аудита. Кроме того, обвинение требует заблокировать доступ к ChatGPT для всех несовершеннолетних лиц на территории штата.
Компания должна нести ответственность за то, как её продукты влияют на наиболее уязвимые слои населения, и разработка новых технологий не может продолжаться без строгих гарантий безопасности — следует из позиции правоохранительных органов Флориды.
Данный судебный процесс может стать важным прецедентом в области регулирования генеративного искусственного интеллекта в США. Исход дела определит, насколько широкими полномочиями по надзору за IT-индустрией будут обладать власти отдельных штатов. В ближайшее время ожидается ответная реакция юристов OpenAI, которым предстоит доказать эффективность существующих систем модерации контента и возрастных ограничений.