На ежегодном Всемирном экономическом форуме в Давосе генеральный директор компании Salesforce Марк Бениофф выступил с резким призывом к государственному контролю над индустрией искусственного интеллекта. Глава технологического гиганта подчеркнул, что бесконтрольное развитие генеративных моделей несет серьезные риски для общества, требуя немедленного вмешательства со стороны регуляторов.
Этические риски и аналогия с социальными сетями
В своем выступлении Бениофф акцентировал внимание на деструктивных последствиях использования современных технологий. Он упомянул задокументированные случаи самоубийств, связанные с взаимодействием пользователей с ИИ-моделями, назвав подобные инциденты «ужасными вещами», которые невозможно игнорировать. По мнению руководителя Salesforce, технологический сектор достиг точки, когда саморегулирование больше не является эффективным инструментом безопасности.
«Нам необходимо регулирование ИИ так же, как нам необходимо регулирование любой другой отрасли, которая может причинить вред обществу»
Стоит отметить, что это не первый случай, когда Бениофф выступает за ограничение технологических корпораций. В 2018 году он провел параллель между социальными сетями и табачной промышленностью, утверждая, что алгоритмы платформ вызывают привыкание и наносят вред психическому здоровью, подобно сигаретам. Тогда его позиция вызвала широкую дискуссию о моральной ответственности разработчиков ПО перед конечными потребителями.
Перспективы законодательного контроля
Дискуссия в Давосе подчеркивает растущий тренд на формирование правовой базы для работы с нейросетями. Эксперты отрасли выделяют несколько ключевых направлений, которые могут лечь в основу будущих законопроектов:
- Обеспечение прозрачности алгоритмов и обучающих выборок;
- Внедрение механизмов предотвращения генерации вредоносного или подстрекающего контента;
- Установление юридической ответственности разработчиков за действия ИИ;
- Защита персональных данных пользователей при обучении крупномасштабных языковых моделей.
Призыв Марка Бениоффа отражает общее настроение среди лидеров мнений в IT-индустрии, которые осознают масштаб влияния искусственного интеллекта на мировую безопасность. Ожидается, что в ближайшие годы международные организации и правительства ведущих стран усилят работу над созданием стандартов, ограничивающих потенциально опасные аспекты использования нейросетевых технологий, стремясь сбалансировать инновации и социальную защиту.