Корпорация Microsoft официально подтвердила наличие критической ошибки в работе своего искусственного интеллекта Microsoft 365 Copilot Chat, которая приводила к несанкционированному доступу к защищенной переписке. В течение нескольких недель алгоритмы ИИ могли анализировать и суммировать содержимое электронных писем, помеченных как конфиденциальные, игнорируя установленные протоколы безопасности и корпоративные политики защиты данных.
Технические подробности инцидента
Проблема, зарегистрированная в системе администрирования под идентификатором CW1226324, заключалась в некорректной обработке метаданных. В частности, Copilot Chat ошибочно интерпретировал права доступа к черновикам и отправленным сообщениям, даже если на них были наложены строгие конфиденциальные метки (Sensitivity Labels). Согласно отчету, уязвимость присутствовала в системе с января 2026 года, позволяя чат-боту формировать сводки по закрытой информации, к которой у него не должно было быть доступа.
Чувствительные данные могли попасть в выдачу чат-бота в ответ на запросы пользователей, имеющих базовый доступ к корпоративной среде, но не обладающих правами на чтение конкретных защищенных документов.
Меры по устранению последствий
После обнаружения сбоя системными администраторами, Microsoft инициировала проверку механизмов фильтрации данных. В начале февраля компания приступила к поэтапному внедрению исправления (hotfix), направленного на восстановление корректной работы системы разграничения прав.
- Уязвимость затрагивала только корпоративный сегмент Microsoft 365.
- Основной риск был связан с функцией автоматического создания резюме (summarization) длинных цепочек писем.
- На текущий момент Microsoft заявляет о стабилизации системы и усилении контроля над интеграцией ИИ в почтовые сервисы.
Проблема возникла из-за дефекта логики в механизме обработки разрешений, что позволяло Copilot извлекать контекст из объектов, защищенных политиками DLP (Data Loss Prevention).
Итоги и влияние на безопасность
Данный инцидент подчеркивает сложности в обеспечении полной изоляции данных при внедрении нейросетевых помощников в бизнес-процессы. Несмотря на оперативное устранение ошибки, ситуация вызвала дискуссии среди экспертов по кибербезопасности о надежности текущих методов фильтрации контента в LLM. В будущем Microsoft планирует провести глубокий аудит взаимодействия Copilot с защищенными хранилищами, чтобы исключить повторение подобных утечек в рамках экосистемы Azure и Office.