Корпорация Apple внедрила новые механизмы фильтрации для своей программы поиска багов, чтобы ограничить поток отчетов, сгенерированных с помощью искусственного интеллекта. Решение было принято на фоне резкого роста числа обращений, содержащих недостоверные данные и ошибки, вызванные «галлюцинациями» нейросетей. Подобные отчеты создают избыточную нагрузку на специалистов по безопасности, заставляя их тратить ресурсы на проверку несуществующих угроз.
Проблема низкокачественного ИИ-контента
Согласно данным издания Financial Times, в июне 2026 года Apple официально скорректировала политику взаимодействия с исследователями в области кибербезопасности. Основной причиной стали массовые рассылки отчетов, сформированных языковыми моделями без должной проверки со стороны человека. Представители компании подчеркивают, что «некачественный контент, созданный ИИ» зачастую описывает теоретические риски, которые не могут быть реализованы в реальных условиях эксплуатации систем.
- Рост объема автоматизированных заявок в службу Apple Security Bounty.
- Снижение общей эффективности процесса валидации из-за необходимости отсеивать ложные срабатывания.
- Риск пропуска критических уязвимостей в потоке низкосортной информации.
Кейс стартапа Bynario и возможности ChatGPT
Несмотря на скептическое отношение Apple к автоматизированным отчетам, некоторые компании демонстрируют эффективность применения нейросетей. Итальянский стартап Bynario сообщил об успешном использовании ChatGPT для анализа кода операционной системы macOS. За трехнедельный период специалистам удалось выявить более 50 потенциальных уязвимостей в последней версии ПО для MacBook.
Apple подтвердила, что находится в контакте с представителями Bynario и в настоящее время проводит тщательный анализ предоставленных материалов для оценки их актуальности.
Будущее кибербезопасности в эпоху ИИ
Ситуация с Apple отражает глобальный вызов для технологических гигантов: необходимость балансировать между использованием инновационных инструментов поиска ошибок и защитой от информационного шума. Ожидается, что компания продолжит совершенствовать свои алгоритмы верификации, чтобы эффективно отделять полезные исследования от автоматизированного спама. В долгосрочной перспективе это может привести к созданию новых стандартов отчетности, где использование ИИ потребует обязательного подтверждения «доказательством концепции» (Proof of Concept), исключающим программные ошибки нейросетей.