Ведущие разработчики искусственного интеллекта, Anthropic и OpenAI, провели переговоры о заключении юридически обязывающего соглашения для взаимного аудита своих больших языковых моделей. Инициатива направлена на создание системы независимого контроля, в рамках которой конкуренты смогут выявлять потенциальные уязвимости и риски безопасности в архитектурах друг друга до их публичного релиза.
Механизмы экспертной оценки и безопасности
Согласно данным The Information и Cailian Press, предполагаемое сотрудничество подразумевает предоставление доступа к закрытым параметрам нейросетей для проведения глубокого анализа. Такой подход позволит реализовать концепцию «Red Teaming» (имитация атак) на более высоком экспертном уровне, так как специалисты одной лаборатории обладают компетенциями, сопоставимыми с разработчиками тестируемого продукта.
Основные цели предлагаемого партнерства включают:
- Выявление скрытых сценариев нецелевого использования ИИ-моделей.
- Оценку устойчивости систем к методам «джейлбрейка» и обхода этических фильтров.
- Синхронизацию стандартов безопасности для предотвращения экзистенциальных рисков.
- Снижение вероятности технологических сбоев при интеграции моделей в критическую инфраструктуру.
Глобальный контекст и международная практика
Идея перекрестного тестирования между крупнейшими игроками рынка не является новой, однако её обсуждение в формате юридических обязательств свидетельствует о зрелости индустрии. Ранее аналогичные предложения выдвигал Илон Маск, призывая к прозрачности и взаимным проверкам даже между американскими и китайскими технологическими гигантами для обеспечения глобальной стабильности.
Идея экспертной оценки между ведущими ИИ-лабораториями набирает обороты, становясь важным элементом саморегулирования отрасли в условиях быстрого технологического прогресса.
Подобные меры могут стать прообразом будущих государственных регуляций. В условиях, когда законодательство часто не успевает за темпами развития нейросетей, добровольные соглашения между лидерами рынка, такими как OpenAI и Anthropic, формируют отраслевые стандарты, на которые в дальнейшем смогут ориентироваться регуляторы в США и Европе.
Реализация инициативы по взаимному тестированию может значительно повысить доверие общества и бизнеса к технологиям генеративного ИИ. Если стороны придут к окончательному соглашению, это создаст прецедент конструктивного взаимодействия конкурентов, направленного на минимизацию глобальных угроз и повышение качества выпускаемых интеллектуальных продуктов.