В корпорации Google разгорается новый внутренний конфликт, связанный с этическими аспектами применения высоких технологий. Более 600 сотрудников компании направили открытое письмо генеральному директору Сундару Пичаи, призвав руководство отказаться от предоставления мощностей искусственного интеллекта для нужд Министерства обороны США. Ключевым требованием инициативной группы является полное прекращение работы над секретными военными проектами, которые могут быть связаны с применением ИИ в боевых целях.
Масштаб протеста внутри DeepMind
Особую значимость обращению придает тот факт, что значительная часть подписавших документ специалистов работает в Google DeepMind — ведущем исследовательском подразделении компании в области нейросетей. По сообщениям организаторов, среди протестующих значатся не только рядовые инженеры, но и высокопоставленные сотрудники:
- Более 20 руководителей различных департаментов;
- Директора направлений;
- Вице-президенты компании.
Авторы письма подчеркивают, что работа над закрытыми оборонными заказами несет репутационные риски и ставит под удар этические принципы Google. Ранее компания уже сталкивалась с подобным сопротивлением в 2018 году в рамках проекта Project Maven, что привело к временному мораторию на разработку ИИ для оружия.
Сотрудничество с Пентагоном и риски Gemini
Поводом для новой волны протестов стала публикация издания The Information, в которой раскрывались детали переговоров между Google и Пентагоном. Речь идет о возможном развертывании новейшей мультимодальной модели Gemini в изолированной секретной среде для нужд военных ведомств.
Единственный способ гарантировать, что Google не будет ассоциироваться с потенциальным вредом — это полностью отказаться от выполнения секретных рабочих нагрузок в интересах военных структур
Сотрудники выражают опасение, что технологии, изначально создававшиеся для гражданских целей и научного прогресса, могут быть адаптированы для анализа разведданных, наведения целей или управления автономными системами. В письме отмечается, что прозрачность в таких контрактах практически невозможна из-за грифа секретности.
Перспективы этического контроля
На данный момент официальные представители Google и лично Сундар Пичаи не предоставили развернутого ответа на коллективное обращение. Данный инцидент вновь поднимает вопрос о гражданском контроле над разработками двойного назначения в крупнейших технологических гигантах. В ближайшее время совету директоров предстоит найти баланс между многомиллиардными государственными контрактами и сохранением кадрового потенциала, учитывая жесткую позицию ведущих разработчиков ИИ в вопросах международной безопасности.