Компания Anthropic, специализирующаяся на безопасности искусственного интеллекта, опубликовала отчет, в котором зафиксированы пять случаев попыток применения нейросетей для разработки биологических угроз. Данное расследование подчеркивает растущие риски использования генеративных моделей в деструктивных целях, связанных с созданием опасных патогенов. Выявление подобных инцидентов стало возможным благодаря внедрению передовых систем мониторинга запросов, которые анализируют потенциально опасную активность пользователей в сфере биотехнологий.
Анализ зафиксированных угроз и сценарии злоупотреблений
Согласно данным экспертов, действия злоумышленников были направлены на получение инструкций по модификации вирусов и поиску токсичных соединений. Анализ показал, что исследователи и частные лица пытались использовать ИИ для реализации следующих задач:
- Эксперименты по усилению вируса чикунгунья с целью повышения его патогенности.
- Разработка методов адаптации вируса птичьего гриппа для его эффективного распространения в организме млекопитающих.
- Создание специализированной базы данных пептидов, входящих в состав различных природных ядов.
- Поиск протоколов синтеза биологических агентов в обход стандартных мер безопасности.
Вирус чикунгунья вызывает тяжелую лихорадку и боли в суставах, а мутации птичьего гриппа рассматриваются учеными как одна из главных угроз возникновения новых пандемий. Представители Anthropic подчеркивают, что хотя текущие модели имеют встроенные фильтры, злоумышленники постоянно ищут способы обхода ограничений (так называемые «джейлбрейки»), чтобы получить доступ к закрытой информации.
Меры безопасности и регулирование отрасли
В отчете отмечается, что современные алгоритмы безопасности смогли распознать и заблокировать критическую часть этих запросов. Однако сам факт обращения к ИИ за помощью в создании биологического оружия вызывает серьезную обеспокоенность у международного сообщества и регуляторов. Разработчики настаивают на необходимости ужесточения контроля над тем, как модели обрабатывают специфические знания в области вирусологии и генетики.
Результаты нашего исследования демонстрируют, что барьеры между теоретическими знаниями и их опасным практическим применением становятся все тоньше благодаря возможностям больших языковых моделей.
Подводя итог, можно констатировать, что инциденты, зафиксированные Anthropic, подтверждают необходимость глобального сотрудничества между технологическими компаниями и государственными структурами. В ближайшем будущем ожидается внедрение более строгих протоколов проверки для доступа к инструментам ИИ, способным оперировать биологическими данными, чтобы минимизировать риски преднамеренного нанесения вреда в планетарном масштабе.