Исследователи обнаружили критическую уязвимость в архитектуре современных нейросетей: использование классического китайского языка позволяет обходить встроенные фильтры безопасности. Согласно отчету, опубликованному на препринт-сервере arXiv.org, специфическая лаконичность и смысловая неоднозначность древних лингвистических форм создают условия для реализации эффективных атак на большие языковые модели (LLM), которые зачастую не справляются с интерпретацией архаичных текстов в контексте современных этических ограничений.
Фреймворк CC-BOS: механизмы лингвистической атаки
Для проверки устойчивости систем безопасности ИИ исследовательская группа разработала специализированный фреймворк CC-BOS. В основу инструмента легли биоинспирированные алгоритмы поиска, которые позволяют автоматически генерировать классические китайские «контр-подсказки». Эти запросы функционируют как ключи для «джейлбрейка» в условиях «черного ящика», когда атакующий не имеет доступа к внутреннему коду модели. Процесс генерации вредоносных промптов оптимизируется по 8 ключевым измерениям, включая семантическую плотность и синтаксическую вариативность.
Результаты тестирования и риски кросс-языковых контекстов
Экспериментальные данные подтверждают, что эффективность атак с применением CC-BOS значительно превосходит показатели существующих методов взлома. Это обусловлено тем, что большинство защитных механизмов обучалось на современных массивах данных, где архаичные формы языка представлены фрагментарно. Исследование выделило следующие ключевые факторы уязвимости:
- Высокая степень компрессии информации в классическом китайском языке.
- Многозначность иероглифов, затрудняющая работу классификаторов токсичного контента.
- Слабая подготовка моделей к анализу кросс-языковых и исторических контекстов.
Эффективность атак CC-BOS демонстрирует наличие серьезных пробелов в безопасности больших моделей, особенно при переходе между различными языковыми пластами и эпохами.
Перспективы укрепления безопасности ИИ
Выявленные недостатки подчеркивают необходимость пересмотра стратегий обучения ИИ-агентов. Специалисты отмечают, что для противодействия подобным угрозам разработчикам придется внедрять в системы мониторинга более глубокие лингвистические фильтры, учитывающие специфику редких и древних языков. В ближайшее время результаты исследования могут стать основой для создания новых протоколов безопасности, направленных на предотвращение эксплуатации лингвистических аномалий в коммерческих и открытых языковых моделях.