Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации планирует внедрить механизм добровольной проверки нейросетей сторонними организациями. Согласно новому регламенту, российские IT-компании смогут делегировать аудит больших моделей искусственного интеллекта независимым испытательным лабораториям для подтверждения их безопасности и соответствия установленным нормам.
Разработка бенчмарков и критериев оценки
Основной целью новой инициативы является проверка алгоритмов на соблюдение действующего законодательства и соответствие духовно-нравственным ценностям. По имеющейся информации, профильное ведомство не планирует принимать отдельные законодательные акты для фиксации перечня ценностей. Вместо этого совместно с представителями технологического сектора будут разработаны специализированные бенчмарки — наборы тестов, позволяющие объективно оценить поведение фундаментальных нейросетевых моделей.
- Разработка единых критериев тестирования совместно с экспертами отрасли.
- Создание реестра аккредитованных испытательных лабораторий.
- Автоматизация процесса проверки через контрольные наборы данных (датасеты).
Механизм взаимодействия с бизнесом
Передача функций проверки независимым структурам призвана снизить регуляторную нагрузку на разработчиков и повысить прозрачность процесса сертификации ИИ. Внедрение независимого аудита позволит компаниям получать экспертное подтверждение того, что их продукты не генерируют запрещенный или деструктивный контент.
Совместно с бизнесом будут разработаны специальные бенчмарки для тестирования российских больших фундаментальных моделей.
Ожидается, что такая система тестирования станет важным этапом в развитии этики искусственного интеллекта в России. Эксперты полагают, что привлечение независимых лабораторий поможет создать доверенную среду для внедрения нейросетей в государственный и корпоративный секторы, обеспечивая при этом соблюдение правовых и этических стандартов без прямого вмешательства регулятора в архитектуру моделей.