Администрация США ввела жесткие экспортные ограничения в отношении новейшей разработки компании Anthropic — модели искусственного интеллекта Fable 5. Решение было принято после того, как в системе были обнаружены критические уязвимости, позволяющие обходить установленные барьеры безопасности. Данный инцидент подчеркивает растущую обеспокоенность государственных регуляторов вопросами национальной кибербезопасности в эпоху стремительного развития генеративных технологий.
Выявление уязвимостей в ходе внутреннего тестирования
Поводом для вмешательства правительства послужили данные, предоставленные генеральным директором Amazon Энди Джесси в ходе переговоров с высокопоставленными чиновниками, включая министра финансов Скотта Басентера. Исследователи Amazon провели независимое тестирование Fable 5 и зафиксировали случаи генерации моделью запрещенной информации. Согласно отчетам, полученные данные могли быть эффективно использованы злоумышленниками для организации масштабных кибератак.
- Исследователи Amazon смогли обойти защитные алгоритмы Anthropic.
- Модель выдавала инструкции, способствующие нарушению цифровой безопасности.
- Правительство США инициировало собственную проверку после получения этих данных.
Ультиматум Белого дома и экспортный контроль
После проведения экстренного совещания в Белом доме государственные эксперты подтвердили наличие рисков. В результате Anthropic получила официальное требование в кратчайшие сроки устранить выявленные недостатки. В случае невыполнения этих условий модели грозит полный запрет на производство и распространение. В настоящее время в отношении технологии действуют строгие экспортные ограничения, блокирующие доступ к ней для ряда зарубежных рынков.
Исследователи Amazon смогли получить от модели Fable 5 запрещенную информацию, которая могла быть использована для кибератак.
Перспективы развития систем безопасности ИИ
Ситуация вокруг Anthropic создает прецедент, при котором государственные органы напрямую вмешиваются в цикл разработки коммерческого ИИ по соображениям безопасности. Это может привести к ужесточению стандартов сертификации для всех крупных игроков рынка, таких как OpenAI и Google. В ближайшее время Anthropic предстоит доказать эффективность новых механизмов фильтрации контента, чтобы вернуть доверие регуляторов и сохранить возможность международного масштабирования своих продуктов.
На текущий момент 14 июня 2026 года экспортный статус Fable 5 остается неопределенным до завершения полной технической модернизации систем защиты. Успех этих мер определит дальнейшую судьбу модели на глобальном технологическом рынке.