Руководитель подразделения искусственного интеллекта Microsoft Мустафа Сулейман выступил с критикой подходов компании Anthropic к разработке нейросетей, указав на риски антропоморфизации ИИ. В своем заявлении топ-менеджер подчеркнул, что текущие методы обучения моделей семейства Claude могут привести к непредсказуемым последствиям для безопасности всей индустрии.
Проблема «конституционного» обучения
Основная претензия Сулеймана касается так называемой «Конституции ИИ» — набора этических правил, на которых базируется обучение моделей Anthropic. По мнению главы Microsoft AI, формулировки этого документа содержат опасные двусмысленности относительно морального статуса алгоритмов. В частности, методы стартапа предполагают наличие у программного обеспечения некоего уровня «функциональных эмоций» или субъективных чувств.
Сулейман утверждает, что подобный подход вводит систему в заблуждение относительно её собственной природы:
Anthropic обращается с ИИ как с людьми, внушая моделям идеи о «сознательности» и «независимой автономии», что в перспективе способно создать неуправляемую технологию.
Риски потери контроля над автономными системами
В экспертном сообществе, на которое ссылаются Bloomberg и Cailian Press, подчеркивается, что современные языковые модели не обладают сознанием, правами или эмоциями. Попытки обучить ИИ действовать так, будто он наделен личностными качествами, создают следующие угрозы:
- Размывание границ ответственности между разработчиком и продуктом;
- Формирование ложных ожиданий у пользователей относительно возможностей системы;
- Усложнение механизмов внешнего контроля и экстренного отключения (kill switch);
- Появление непредсказуемых паттернов поведения в критических ситуациях.
Эксперт настаивает на том, что инструменты искусственного интеллекта должны позиционироваться исключительно как функциональное программное обеспечение, лишенное признаков субъектности.
Перспективы регулирования этики ИИ
Данная полемика возникла на фоне усиления конкуренции между технологическими гигантами и стартапами в области безопасного ИИ (AI Safety). Если позиция Microsoft предполагает жесткую инструментализацию моделей, то Anthropic продолжает придерживаться концепции «этического выравнивания» через сложные моральные установки. Исход этой дискуссии может напрямую повлиять на будущие законодательные нормы, регулирующие разработку AGI (общего искусственного интеллекта) и правила взаимодействия человека с автоматизированными системами.