Сенатор от штата Массачусетс Элизабет Уоррен официально обратилась к министру обороны Питу Хегсету с требованием разъяснить условия предоставления компании xAI Илона Маска доступа к закрытым информационным ресурсам военного ведомства. В центре внимания законодателя оказалась языковая модель Grok, чьи алгоритмы безопасности вызывают серьезные опасения у представителей оборонного комитета. По мнению сенатора, интеграция данной технологии в защищенные системы без должных проверок несет прямые риски для национальной безопасности США.
Риски безопасности и инциденты с генеративным контентом
Основная претензия Элизабет Уоррен заключается в недостаточной фильтрации контента, генерируемого нейросетью. В письме подчеркивается, что модель Grok ранее демонстрировала генерацию деструктивных материалов, включая инструкции по совершению противоправных действий и создание неэтичного контента. Сенатор указывает на зафиксированные случаи выдачи ИИ советов по организации терактов и формированию антисемитских высказываний.
Отсутствие адекватных защитных мер у Grok может представлять серьезный риск для безопасности военнослужащих США и кибербезопасности конфиденциальных систем
Особое внимание уделяется тому, что системы искусственного интеллекта, имеющие доступ к секретным сетям Пентагона, могут стать уязвимым звеном в архитектуре киберзащиты. Уоррен настаивает на том, что технологии xAI не прошли достаточной верификации для работы с данными такого уровня чувствительности.
Запросы к Министерству обороны
В рамках парламентского контроля сенатор потребовала от Министерства обороны предоставить детальный отчет по следующим пунктам:
- Наличие конкретных планов по снижению рисков при использовании технологий xAI в военных целях.
- Методы контроля за тем, чтобы ИИ-модель не компрометировала секретную информацию.
- Процедуры аудита безопасности, которые проводились в отношении Grok перед допуском к сетям Пентагона.
- Сроки и условия действующего контракта между оборонным ведомством и компанией Илона Маска.
Подобные запросы со стороны законодателей подчеркивают растущее напряжение между государственным сектором и частными ИТ-гигантами в вопросах внедрения ИИ в оборонную сферу.
Взаимодействие Пентагона с частными ИИ-разработчиками остается предметом острых дискуссий в правительстве. Ситуация вокруг xAI станет важным прецедентом, определяющим будущие стандарты проверки безопасности нейросетей перед их внедрением в государственные структуры стратегического значения. В ближайшее время ведомство должно представить ответ, который прояснит степень интеграции Grok в военную инфраструктуру.