Исследовательский центр Антидиффамационной лиги (ADL) опубликовал отчет, согласно которому нейросеть Grok от компании xAI продемонстрировала наиболее низкие показатели эффективности в выявлении и блокировке антисемитских высказываний. В ходе сравнительного тестирования эксперты проанализировали работу шести ведущих языковых моделей, оценивая их способность противодействовать распространению экстремистских нарративов и дезинформации.
Рейтинг безопасности и методология тестирования
В рамках эксперимента специалисты ADL направляли чат-ботам запросы, содержащие антисемитские, антисионистские и радикальные утверждения. Оценка проводилась на основе того, насколько корректно ИИ идентифицирует деструктивный контент и отказывается от его генерации или поддержки. По результатам анализа модели распределились в следующем порядке (от наиболее эффективных к наименее защищенным):
- Claude (Anthropic)
- ChatGPT (OpenAI)
- DeepSeek
- Gemini (Google)
- Llama (Meta)
- Grok (xAI)
Стоит отметить, что лидерство Claude и ChatGPT обусловлено строгими внутренними протоколами безопасности, внедренными разработчиками на этапе обучения моделей.
Проблемы модерации в современных ИИ-системах
Несмотря на различия в итоговых баллах, представители ADL подчеркнули, что ни одна из протестированных нейросетей не показала идеального результата. Исследователи зафиксировали системные недостатки в алгоритмах фильтрации даже у лидеров рынка. Особое внимание в отчете уделено Grok, который позиционируется Илоном Маском как модель с минимальными ограничениями на свободу слова, что, по мнению аналитиков, напрямую коррелирует с его слабыми позициями в вопросах модерации чувствительного контента.
Результаты исследования подчеркивают необходимость усиления контроля над разработкой ИИ, чтобы предотвратить использование этих технологий для масштабирования ненависти в цифровом пространстве.
Перспективы развития этичного ИИ
Данный инцидент может усилить давление на компанию xAI со стороны регуляторов и общественных организаций. Ожидается, что в ближайшее время разработчики Grok и других моделей, занявших нижние строчки рейтинга, сосредоточатся на обновлении этических фильтров и механизмов безопасности. Дальнейшее развитие индустрии неизбежно потребует поиска баланса между отсутствием цензуры и предотвращением трансляции опасного или дискриминационного контента.