Постоянный специальный комитет Палаты представителей США по разведке опубликовал доклад, призывающий национальные спецслужбы усилить меры защиты от угроз, связанных с развитием искусственного интеллекта. В документе подчеркивается, что современные технологии могут стать инструментом в руках радикальных группировок, облегчая им процесс подготовки масштабных атак. Американские законодатели настаивают на необходимости оперативной адаптации разведывательного сообщества к новым вызовам цифровой эпохи.
Риски использования больших языковых моделей
Основная обеспокоенность комитета связана с доступностью больших языковых моделей (LLM), которые потенциально способны снизить порог вхождения для подготовки биологического или химического оружия. Согласно данным доклада, злоумышленники могут использовать алгоритмы для обхода существующих ограничений и получения инструкций по созданию опасных веществ. Эксперты отмечают, что открытость некоторых ИИ-платформ создает дополнительные уязвимости в системе глобальной безопасности.
Среди ключевых угроз, выделенных специалистами, можно отметить:
- Использование генеративного ИИ для детального планирования логистики нападений.
- Синтез вредоносного кода и проведение кибератак на критическую инфраструктуру.
- Создание дезинформационных кампаний для дестабилизации социальной обстановки.
- Генерация инструкций по созданию смертоносных видов вооружения.
Необходимость превентивных мер
Законодатели призывают разведывательное сообщество разработать комплексные методики мониторинга и блокировки подозрительной активности в сфере использования нейросетей. В докладе подчеркивается, что текущие протоколы безопасности могут быть недостаточно эффективны против автоматизированных систем, способных генерировать новые угрозы в режиме реального времени.
Разведывательное сообщество должно продумать, как предотвратить использование инструментов ИИ злоумышленниками, включая террористов — указано в официальном документе Палаты представителей.
В долгосрочной перспективе США планируют усилить взаимодействие между технологическими компаниями и правительственными структурами. Установление жестких рамок для разработчиков передовых алгоритмов рассматривается как необходимый шаг для минимизации рисков того, что искусственный интеллект станет катализатором новой волны глобального экстремизма. Ситуация требует баланса между поддержкой инноваций и обеспечением национальной безопасности в условиях стремительной цифровизации.