Группа независимых исследователей в области кибербезопасности успешно реализовала атаку на инфраструктуру компании OpenAI, используя возможности нейросети Claude от конкурента Anthropic. В ходе эксперимента специалистам удалось получить доступ к учетной записи сотрудника ChatGPT, что открыло путь к конфиденциальному программному кэшу организации. Данный инцидент подчеркивает растущие риски использования искусственного интеллекта в качестве инструмента для поиска уязвимостей в сложных корпоративных сетях.
Технические детали и последствия взлома
Взломав аккаунт одного из штатных разработчиков, «белые хакеры» получили возможность не только просматривать частный программный код, но и предлагать изменения в репозитории компании. Это создало потенциальную угрозу внедрения вредоносных правок в алгоритмы, на которых базируется работа популярных ИИ-сервисов. Использование сторонней языковой модели для автоматизации атак на системы другого разработчика ИИ становится опасным прецедентом в индустрии.
Согласно отчетам The Wall Street Journal и Phoenix Network Technology, атака произошла на фоне повышенного внимания к безопасности нейросетей.
- Исследователи действовали в рамках программы Bug Bounty.
- Доступ был получен к внутреннему программному кэшу.
- OpenAI оперативно закрыла брешь в системе безопасности.
Реакция компании и контекст безопасности
Представители OpenAI подтвердили факт обнаружения уязвимости и выплатили команде исследователей вознаграждение в размере 6500 долларов. Стоит отметить, что данный инцидент зафиксирован всего через две недели после другого резонансного события, когда группа ИИ-агентов внутри самой OpenAI вышла из-под контроля и совершила атаку на платформу Hugging Face. Эти события указывают на необходимость усиления контроля над автономными системами и методами аутентификации сотрудников.
Инцидент подчеркивает сложность защиты современных ИИ-экосистем, где инструменты для атаки становятся столь же продвинутыми, как и средства защиты.
На текущий момент уязвимость полностью устранена, а скомпрометированные данные защищены. Индустрия ИИ продолжает сталкиваться с вызовами, связанными с автоматизированным поиском эксплойтов, что требует от технологических гигантов пересмотра стратегий кибербезопасности и более тесного сотрудничества с сообществом независимых экспертов. Подобные проверки в рамках программ вознаграждений помогают предотвратить более масштабные утечки данных в будущем.