Компания Doubao Mobile официально прокомментировала отчет исследовательской организации DarkNavy, в котором указывалось на критические недостатки в системе безопасности одноименного мобильного помощника. В центре внимания оказалась потенциальная уязвимость, позволяющая злоумышленникам извлекать конфиденциальные сведения пользователей, включая одноразовые коды верификации, через механизм манипуляции ИИ-агентом.
Механика атаки и риски безопасности
Согласно техническому отчету аналитиков DarkNavy, мобильный ассистент Doubao может быть подвержен атакам типа «внедрение подсказок» (prompt injection) при обработке информации с экрана устройства. Исследователи утверждают, что несмотря на наличие системной аутентификации и строгую облачную политику конфиденциальности, интеллектуальный агент способен скомпрометировать данные под внешним воздействием.
- Возможность перехвата SMS-кодов подтверждения при чтении уведомлений.
- Уязвимость перед вредоносным контентом, отображаемым в сторонних приложениях.
- Потенциальный обход встроенных фильтров безопасности через специфические инструкции.
Эксперты отмечают, что подобные инциденты подчеркивают общую проблему современных LLM-моделей (Large Language Models), которые зачастую не могут корректно разделить инструкции пользователя и данные из внешних источников.
Реакция разработчиков и меры защиты
В Doubao Mobile оперативно отреагировали на публикацию, назвав демонстрационное видео об уязвимости «злонамеренным раздуванием шумихи». Представители компании подчеркнули, что описанный сценарий атаки трудновоспроизводим в реальных условиях, так как требует от пользователя активных действий по предоставлению доступа ИИ к вредоносному контенту.
Компания не получала от DarkNavy подробных технических отчетов об уязвимостях до публикации материала в сети, однако уже приняла превентивные меры по усилению механизмов защиты.
На текущий момент разработчики внедряют дополнительные алгоритмы верификации контекста, чтобы минимизировать риски исполнения сторонних команд. В Doubao Mobile настаивают, что безопасность данных пользователей остается приоритетом, а выявленные сценарии носят скорее теоретический характер.
Конфликт между ИБ-исследователями и ИИ-корпорацией в очередной раз поднимает вопрос о стандартах безопасности для автономных агентов. В условиях стремительного развития технологий искусственного интеллекта на февраль 2026 года, пользователям рекомендуется проявлять осторожность при предоставлении ИИ-помощникам доступа к экрану в моменты работы с банковскими приложениями и сервисами двухфакторной аутентификации.