В Нью-Йорке ограничили использование ИИ-компаньонов для подростков

Губернатор штата Нью-Йорк Кэти Хочул официально утвердила законопроект, накладывающий строгие ограничения на эксплуатацию чат-ботов с функциями виртуальных компаньонов несовершеннолетними пользователями. Новые правила направлены на защиту психического здоровья молодежи и минимизацию рисков, связанных с формированием эмоциональной привязанности к алгоритмам искусственного интеллекта. Согласно документу, разработчики популярных платформ, включая OpenAI ChatGPT, теперь обязаны внедрить надежные механизмы верификации возраста.

Запрет на имитацию человеческих эмоций

Законодательная инициатива классифицирует определенные возможности нейросетей как «высокорискованные» функции. Платформам запрещается предоставлять доступ к ним лицам младше 18 лет, а также пользователям, чей возраст не был подтвержден документально. Особое внимание уделяется манере общения ИИ: системам запрещено генерировать контент, который может создать ложную иллюзию наличия у чат-бота человеческих качеств, сознания или собственных чувств.

  • Запрет на имитацию личных эмоциональных связей с пользователем.
  • Ограничение на предоставление профессиональных или психологических консультаций в неформальном стиле.
  • Недопустимость трансляции ответов ИИ как его «личного мнения».

Защита конфиденциальных данных и безопасности

Помимо ограничений на поведенческие алгоритмы, закон устанавливает жесткие требования к обработке персональной информации. Операторам систем искусственного интеллекта запрещено сохранять и обрабатывать конфиденциальные данные несовершеннолетних, если они касаются физического или ментального здоровья. Это решение продиктовано стремлением предотвратить сбор чувствительной информации, которую подростки могут непреднамеренно раскрыть в ходе диалога с ИИ-ассистентом.

Принятые меры призваны создать безопасную цифровую среду, где технологии служат инструментами, а не замещают реальное человеческое общение или профессиональную помощь

Принятие данного закона в Нью-Йорке может стать прецедентом для аналогичных инициатив в других регионах и странах. Учитывая стремительный рост популярности генеративного ИИ, усиление государственного регулирования в сфере безопасности несовершеннолетних становится глобальным трендом, который вынудит технологические компании существенно пересмотреть архитектуру взаимодействия своих сервисов с молодой аудиторией.

Материал соответствует редакционной политике Techimo Все публикации проходят проверку фактов и соответствуют стандартам независимой журналистики.
Подробнее

Techimo в Telegram

Самые свежие новости технологий, инсайды и обзоры гаджетов раньше, чем на сайте. Без спама.

Подписаться на канал