Исследователи в области кибербезопасности предупреждают о растущих рисках, связанных с использованием больших языковых моделей (LLM) с открытым исходным кодом. Согласно последним отчетам, злоумышленники активно адаптируют нейросети для автоматизации спам-рассылок, создания убедительного фишингового контента и проведения масштабных кампаний по дезинформации. Свободный доступ к коду позволяет обходить стандартные протоколы безопасности, которые жестко контролируются в проприетарных системах.
Основные векторы киберугроз и эксплуатации ИИ
Специалисты выделяют широкий спектр сценариев злоупотребления ИИ-технологиями. Открытая архитектура позволяет преступным группам модифицировать модели под конкретные деструктивные задачи. В отличие от закрытых сервисов, где каждый запрос проходит фильтрацию на стороне провайдера, локально развернутые модели лишены такого надзора.
- Подготовка и проведение сложных хакерских атак;
- Генерация контента, пропагандирующего насилие и разжигание ненависти;
- Кража персональных данных и реализация мошеннических схем;
- Распространение материалов, связанных с сексуальным насилием над несовершеннолетними.
Проблема удаления защитных барьеров
Особое беспокойство экспертов вызывает безопасность популярных моделей, таких как Llama от Meta и Gemma от Google. Исследования показали, что эти системы становятся уязвимыми после удаления встроенных мер безопасности (так называемого "выравнивания" или alignment). Энтузиасты и злоумышленники выпускают модифицированные версии — «uncensored» модели, в которых полностью отключены этические фильтры.
Многие модели с открытым кодом оказались беззащитны перед целенаправленным снятием ограничений, что делает их идеальным инструментом для генерации противоправного контента в промышленных масштабах.
Перспективы регулирования и защиты
Текущая ситуация ставит перед технологическим сообществом дилемму между прозрачностью разработки и общественной безопасностью. Ожидается, что в течение 2026 года регуляторы в Европе и США усилят требования к разработчикам Open Source решений, обязав их внедрять более устойчивые механизмы защиты, которые невозможно отключить простым обновлением весов модели. Дальнейшее развитие отрасли потребует создания новых стандартов верификации ИИ-контента для минимизации ущерба от действий киберпреступников.