Руководители ведущих технологических гигантов в сфере искусственного интеллекта обратились к законодателям США с призывом ужесточить контроль над использованием нейросетей в биологических исследованиях. Сэм Альтман (OpenAI), Дарио Амодей (Anthropic) и Демис Хассабис (Google DeepMind) подписали совместное обращение, в котором акцентируют внимание на рисках создания биологического оружия с помощью генеративных моделей нового поколения.
Контроль над синтетической ДНК и РНК
Основное требование экспертов и глав корпораций заключается в введении обязательных мер предосторожности при производстве и продаже генетического материала. Согласно тексту письма, опубликованному The Wall Street Journal, необходимо обязать профильные лаборатории проводить тщательную проверку заказов.
- Внедрение обязательного скрининга синтетических нуклеиновых кислот на наличие опасных последовательностей.
- Верификация идентификационных данных заказчиков для предотвращения анонимных закупок.
- Мониторинг потенциально опасных комбинаций ДНК и РНК, которые могут быть использованы для создания патогенов.
Риски технологического прогресса
Авторы обращения подчеркивают, что стремительное развитие ИИ-систем создает двойственную ситуацию. С одной стороны, технологии ускоряют разработку лекарств и вакцин, с другой — они существенно снижают порог входа для получения доступа к опасным биологическим агентам.
Системы ИИ стремительно развиваются, и наряду с пользой для науки и медицины существует возможность снижения барьеров, мешавших злоумышленникам получить доступ к биологическому оружию.
Специалисты по безопасности указывают на то, что современные языковые модели могут помочь в планировании сложных биологических атак, предоставляя инструкции, которые ранее требовали глубоких академических знаний и многолетнего опыта работы в лабораториях.
Реакция Конгресса на данное обращение может стать определяющим фактором для формирования будущей нормативно-правовой базы в области ИИ. Ожидается, что предложенные меры станут частью более широкой стратегии по обеспечению национальной безопасности в эпоху цифровой трансформации. Своевременное регулирование рынка синтетической биологии позволит минимизировать риски, сохранив при этом темпы инновационного развития в медицине.