Компания OpenAI готовится к релизу своей новой мультимодальной модели Astra, однако доступ к её наиболее продвинутым инструментам в сфере информационной безопасности будет строго регламентирован. Разработчики опасаются, что высокие аналитические способности системы могут быть использованы во вред, поэтому внедрение технологий будет происходить поэтапно и под тщательным контролем.
Критический порог возможностей ИИ
Согласно внутренним оценкам OpenAI, модель Astra достигла так называемого «критического порога кибербезопасности». Это означает, что искусственный интеллект способен не только обнаруживать уязвимости в программном коде, но и самостоятельно разрабатывать эксплойты нулевого дня без участия человека. Эксплойты нулевого дня — это вредоносные программы, использующие ошибки в ПО, которые еще не известны разработчикам и против которых не существует защиты.
Такой уровень автономности создает потенциальные риски для глобальной цифровой инфраструктуры, если инструмент попадет в руки злоумышленников. Именно поэтому компания приняла решение ограничить круг лиц, имеющих доступ к полному функционалу модели на старте.
Программа тестирования и инициатива Daybreak Blue
На начальном этапе, который стартует в ближайшее время, доступ к передовым задачам кибербезопасности получит лишь узкая группа доверенных тестеров. Развертывание системы будет происходить по следующему алгоритму:
- Первичное закрытое тестирование для оценки рисков и безопасности модели.
- Постепенное расширение доступа к оборонительным (защитным) функциям.
- Масштабирование инструментов защиты через специализированную программу Daybreak Blue.
Модель будет выпущена «скоро», но изначально лишь небольшая группа тестировщиков получит доступ к передовым задачам кибербезопасности — отмечают представители OpenAI.
Программа Daybreak Blue призвана предоставить специалистам по защите данных инструменты для эффективного противодействия кибератакам, сохраняя при этом контроль над использованием атакующих возможностей ИИ.
Решение OpenAI подчеркивает растущую озабоченность индустрии вопросами безопасности при разработке сверхмощных моделей. В условиях, когда ИИ становится способен автоматизировать сложные процессы взлома, баланс между открытостью технологий и защитой данных становится ключевым фактором развития сектора. Ожидается, что опыт эксплуатации Astra заложит основу для новых стандартов этического использования ИИ в киберпространстве.