Пионер в области глубокого обучения и профессор Стэнфордского университета Ли Фэйфэй выступила с заявлением о необходимости внедрения внешнего контроля над системами искусственного интеллекта. По мнению эксперта, оценка рисков и возможностей нейросетевых моделей не может ограничиваться лишь внутренними аудитами компаний-разработчиков, так как обществу требуются объективные стандарты, сформированные при участии государства и научного сообщества.
Необходимость независимых ориентиров
В недавнем интервью для Bloomberg TV соучредитель стартапа World Labs подчеркнула, что текущая модель саморегулирования технологических гигантов является недостаточной для обеспечения глобальной безопасности. Ли Фэйфэй настаивает на том, что разработка критериев оценки (бенчмарков) должна перейти в ведение независимых институтов.
«Очень важно, чтобы ориентиры были установлены независимыми организациями и государственным сектором, таким как академические круги. В то же время промышленность и правительство также должны нести совместную ответственность», — заявила Ли Фэйфэй.
Подход подразумевает создание прозрачной экосистемы, где академические институты выступают в роли беспристрастных арбитров, проверяющих заявления корпораций о безопасности их продуктов.
Экзистенциальные риски и ответственность
Обсуждая потенциальные угрозы, которые несет развитие мощных алгоритмов, профессор отметила, что экзистенциальные риски не являются предопределенными. Они напрямую зависят от управленческих решений, принимаемых сегодня.
Ключевые аспекты предлагаемой модели регулирования включают:
- Разработку единых государственных стандартов тестирования моделей;
- Привлечение университетских исследовательских групп к аудиту алгоритмов;
- Разделение ответственности между частными разработчиками и регуляторами;
- Создание открытых протоколов проверки на наличие предвзятости и уязвимостей.
Перспективы глобального регулирования
Инициатива Ли Фэйфэй прозвучала на фоне активных дискуссий в США и ЕС о принятии законов, ограничивающих бесконтрольное обучение крупномасштабных моделей. Профессор подчеркивает, что развитие ИИ должно быть антропоцентричным, а его использование — строго регламентированным с точки зрения этики и безопасности.
В перспективе участие академических кругов и государственных структур в надзоре за ИИ позволит минимизировать вероятность технологических катастроф. Баланс между инновациями и безопасностью станет возможен только при условии трансграничного и междисциплинарного сотрудничества, которое исключит монополию корпораций на определение «безопасности» своих технологий.