В рамках Международного диалога по искусственному интеллекту, организованного под эгидой ООН, состоялась презентация российской национальной сессии, посвященной вопросам безопасности и этики цифровых технологий. Представители РФ продемонстрировали передовой опыт создания систем доверенного ИИ, вызвав предметный интерес со стороны международного сообщества к отечественным методам верификации алгоритмов и защиты данных.
Ключевые аспекты доверия и верификации моделей
Основной акцент в российском докладе был сделан на необходимости создания прозрачной среды для развития нейросетей. Директор Института общественных наук Президентской академии Павел Голосов отметил, что уровень доверия к современным технологиям напрямую зависит от объективных показателей. По его словам, надежность ИИ должна измеряться через систему бенчмарков, строгую верификацию и клиническую валидацию в соответствующих отраслях.
Доверие к ИИ измеряется бенчмарками, верификацией и клинической валидацией, а существующая правовая неопределенность эффективно закрывается провенансом данных и лицензированием.
Для решения проблем авторского права и подлинности контента российские эксперты предложили использовать цифровые водяные знаки и открытые репозитории. Эти инструменты позволяют отслеживать происхождение информации (провенанс) и обеспечивают юридическую чистоту используемых датасетов.
Международное сотрудничество и экспертный состав
В состав российской делегации вошли ведущие специалисты в области информационных технологий и государственного управления. Среди участников дискуссии присутствовали:
- Арутюн Аветисян, директор Института системного программирования (ИСП) РАН;
- Дмитрий Онтоев, советник руководителя Департамента информационных технологий Москвы;
- Кирилл Землянухин, исполнительный директор Стратегического агентства поддержки и формирования развития ИИ.
Особое внимание зарубежных коллег привлекли московские практики внедрения ИИ в городскую инфраструктуру и социальную сферу, которые уже прошли этап практической апробации. Эксперты подчеркнули, что открытость алгоритмов и наличие четких стандартов являются необходимым условием для масштабирования технологий на глобальном уровне.
Представленные инициативы подтверждают стремление к формированию единых международных правил игры в сфере высоких технологий. Развитие инструментов верификации и лицензирования данных в долгосрочной перспективе позволит минимизировать риски, связанные с бесконтрольным использованием нейросетей, и создаст базу для безопасного внедрения инноваций в мировую экономику.