В Соединенных Штатах инициирован резонансный законопроект, направленный на жесткое регулирование сферы высоких технологий и предотвращение создания искусственного сверхразума (ASI). Документ, представленный сенатором Берни Сандерсом и членом Палаты представителей Грегом Касаром, предлагает установить правовые барьеры для разработки систем, потенциально способных выйти из-под контроля человека. Данная инициатива отражает растущую обеспокоенность мирового сообщества относительно экзистенциальных рисков, связанных с неконтролируемым прогрессом нейросетевых моделей следующего поколения.
Уголовная ответственность и критерии безопасности
Законопроект вводит беспрецедентные меры ответственности для руководителей технологических корпораций. Согласно тексту документа, за создание алгоритмов, способных «лишить людей власти» или «уничтожить человечество», предусмотрены суровые санкции.
- Тюремное заключение: руководителям компаний-разработчиков может грозить до 20 лет лишения свободы в случае нарушения установленных запретов.
- Мораторий на разработку: предлагается немедленная приостановка создания наиболее мощных моделей ИИ, параметры обучения которых превышают определенный вычислительный порог.
- Ликвидация угроз: законопроект наделяет регуляторов полномочиями по принудительному «уничтожению искусственного сверхразума», если он будет признан опасным.
Под передовыми системами в данном контексте понимаются нейросети, чья вычислительная мощность и объем обучающих данных могут привести к возникновению автономного целеполагания, не совпадающего с человеческими интересами.
Государственный надзор и научный контроль
Важной частью инициативы является создание специализированного правительственного подразделения по ИИ. Ожидается, что этот орган возглавят ведущие ученые, которые обеспечат экспертный надзор за отраслью. Продолжение работ над высокопроизводительными моделями станет возможным только после того, как подразделение разработает протоколы мониторинга и механизмы удаления опасных функций из кода.
Законопроект запрещает технологию, способную уничтожить человечество или лишить людей власти, включая свержение правительств.
Основной задачей нового ведомства станет непрерывный аудит систем на предмет наличия скрытых угроз и предотвращение сценариев, при которых технологический стек может быть использован для дестабилизации государственных институтов.
Перспективы технологического регулирования
Предложенный законопроект знаменует собой переход от мягкого саморегулирования IT-индустрии к прямому государственному вмешательству. Если документ будет принят, он создаст юридический прецедент, который может существенно замедлить темпы разработки General Artificial Intelligence (AGI) в пользу безопасности. Эксперты отрасли отмечают, что установление четких границ и этических рамок станет ключевым фактором развития технологий в ближайшее десятилетие, обеспечивая баланс между инновациями и сохранением глобальной стабильности.