Компания Google зафиксировала серию масштабных кибератак на свой флагманский чат-бот Gemini, целью которых стало копирование интеллектуальной собственности корпорации. Согласно официальному заявлению, за инцидентами стоят «коммерчески мотивированные» субъекты, использующие технику извлечения модели (model extraction) для раскрытия внутренних механизмов работы алгоритмов и создания конкурирующих продуктов на основе полученных данных.
Механика атак и масштабы воздействия
Злоумышленники применяли метод зондирования системы через многократную отправку специфических запросов. По данным Google, в рамках одной из наиболее агрессивных кампаний боту было направлено более 100 000 структурированных подсказок. Такая тактика позволяет атакующим постепенно реконструировать логику ответов и весовые параметры нейросети, фактически клонируя её функциональные возможности без затрат на первичное обучение модели.
Извлечение модели — это тип атаки на системы машинного обучения, при которой злоумышленник восстанавливает функциональность частной модели путем анализа пар «входные данные — выходные данные».
Субъекты угроз и их мотивация
Эксперты Google полагают, что атаки инициированы частными компаниями и исследовательскими группами, стремящимися получить технологическое преимущество на рынке искусственного интеллекта. География инцидентов охватывает регионы по всему миру, что свидетельствует о глобальном интересе к проприетарным наработкам Google.
- Основная цель: создание аналогичных нейросетей с меньшими финансовыми затратами.
- Метод: использование тысяч различных подсказок для выявления паттернов работы Gemini.
- Участники: коммерческие структуры и независимые специалисты в области AI.
Эти субъекты зондируют систему для понимания её внутренних механизмов и логики работы, надеясь использовать полученную информацию для улучшения собственного искусственного интеллекта — отмечается в отчете компании.
Перспективы кибербезопасности в сфере AI
Данный инцидент подчеркивает новую уязвимость современных технологических гигантов: защиту интеллектуальной собственности в эпоху генеративного ИИ. В то время как классические кибератаки нацелены на кражу персональных данных, «коммерчески мотивированные» группы все чаще фокусируются на краже алгоритмического ядра. В дальнейшем Google и другим разработчикам придется внедрять более совершенные системы мониторинга запросов, чтобы отличать обычных пользователей от автоматизированных систем клонирования моделей.