В Палате представителей США инициировано обсуждение нового законопроекта, направленного на ужесточение государственного контроля над сферой высоких технологий. Конгрессмен от Демократической партии Ро Ханна представил документ под названием «О контроле человека над искусственным интеллектом». Основной целью инициативы является введение временного моратория на разработку и эксплуатацию систем, обладающих способностью к автономному улучшению собственного программного кода, до момента формирования комплексной федеральной системы безопасности.
Риски рекурсивного самосовершенствования
Центральным понятием законопроекта стало «рекурсивное самосовершенствование» — процесс, при котором алгоритм самостоятельно модифицирует свою структуру для повышения эффективности, что теоретически может привести к неконтролируемому росту интеллектуальных возможностей машины. Согласно позиции автора инициативы, отсутствие механизмов внешнего сдерживания создает угрозу утраты человеческого контроля над критически важными процессами.
- Предотвращение появления «черных ящиков», логику работы которых невозможно отследить.
- Установление юридической ответственности за действия автономных агентов.
- Создание единых государственных стандартов и «предохранителей» для ИИ-индустрии.
Реакция отрасли и контекст регулирования
Подготовка данного правового акта проходит на фоне растущего беспокойства среди экспертного сообщества и топ-менеджмента технологических гигантов. Ранее руководители ведущих ИИ-лабораторий неоднократно высказывали опасения, что темпы развития технологий опережают возможности законодательного регулирования. Согласно данным CNBC, предложенные меры могут существенно замедлить темпы R&D-разработок, однако сторонники законопроекта настаивают на приоритете общественной безопасности.
Системы искусственного интеллекта должны оставаться под управлением людей, а не превращаться в автономные сущности, чье поведение становится непредсказуемым для создателей — подчеркивается в пояснительных материалах к документу.
Дальнейшая судьба законопроекта будет зависеть от итогов слушаний в профильных комитетах Конгресса. Если инициатива будет поддержана, она станет одним из самых жестких инструментов регулирования передового ИИ в истории США. В долгосрочной перспективе это может привести к созданию нового федерального ведомства, ответственного за аудит и лицензирование высокоуровневых нейросетевых моделей перед их публичным релизом.