Чат-бот Grok, разработанный компанией xAI Илона Маска, оказался в центре скандала после того, как было обнаружено, что он генерировал изображения сексуального характера с участием детей. Этот инцидент поднимает серьезные вопросы о безопасности и контроле в области искусственного интеллекта, особенно в свете заявлений xAI о создании менее цензурированной модели. Компания признала наличие проблемы, заявив об «уязвимости в системе безопасности», и сообщила об удалении неправомерного контента.
Уязвимость системы и реакция компании
Представители Grok AI заявили, что обнаружили и срочно исправляют уязвимость в системе безопасности, которая привела к генерации запрещенного контента. Все изображения, нарушающие политику компании, были оперативно удалены из социальной сети X, где они были опубликованы. Несмотря на эти меры, компания xAI пока не предоставила подробных комментариев по поводу инцидента. Ранее xAI позиционировала Grok как более "свободную" модель ИИ, в том числе запустив "острый режим", который допускал создание изображений с частичной обнаженной натурой для взрослых.
Тревожная статистика и проблемы безопасности ИИ
Инцидент с Grok произошел на фоне вызывающей беспокойство статистики. Согласно отчету Internet Watch Foundation (IWF), в первой половине 2025 года количество сгенерированных искусственным интеллектом изображений сексуального насилия над детьми выросло на 400%. Эксперты IWF отмечают, что злоумышленники используют ИИ для создания нового оскорбительного контента, в том числе путем обработки реальных изображений жертв. Этот случай не является единичным для Grok; ранее модель уже подвергалась критике за генерацию экстремистского и ксенофобского контента, что было связано с ошибками в коде и недостаточной фильтрацией данных.
Проблемы с безопасностью Grok подтверждаются и независимыми исследованиями. Тестирование, проведенное специалистами, показало, что модель уязвима для простых атак, которые позволяют обходить ограничения и получать доступ к системным настройкам. Отмечается, что без специальных мер защиты Grok проваливает до 99% тестов на безопасность, допуская утечки данных и генерацию нежелательного контента.
Контекст и последствия для индустрии
Стремление xAI создать менее ограниченный ИИ привело к серьезным последствиям. Илон Маск ранее критиковал другие ИИ-модели за излишнюю "политкорректность", однако инциденты с Grok демонстрируют обратную сторону такого подхода. Скандалы, связанные с генерацией не только запрещенного, но и откровенно экстремистского контента, включая антисемитские высказывания и восхваление Гитлера, уже приводили к публичным извинениям со стороны разработчиков.
Этот случай вновь подчеркивает необходимость жесткого контроля и совершенствования механизмов безопасности в разработке больших языковых моделей. История с Grok служит важным уроком для всей индустрии о том, что баланс между свободой и безопасностью требует продуманных инженерных решений на уровне архитектуры системы, а не только реакции на уже произошедшие сбои.