ArXiv вводит годовой бан за публикацию научных статей с «AI-отходами»
Популярный архив научных препринтов ArXiv объявил о значительном ужесточении редакционной политики в отношении материалов, созданных с помощью генеративного искусственного интеллекта. Платформа начинает борьбу с так называемыми «AI-отходами» — низкокачественным контентом, содержащим фактические ошибки и галлюцинации ИИ, что ставит под угрозу академическую честность научного сообщества. Санкции за использование непроверенных ИИ-генераций Согласно новым правилам, авторы, уличенные в публикации материалов с недостоверными результатами работы нейросетей, столкнутся с жесткими административными мерами. Основным инструментом борьбы станет блокировка профиля автора сроком на один год. Наказание будет применяться в тех случаях, когда в рукописи обнаруживаются явные признаки небрежного использования ИИ. Выдуманные (галлюцинированные) научные ссылки и источники.Наличие в тексте технических мета-комментариев от чат-ботов.Непроверенные данные, сгенерированные большими языковыми моделями. Решение о блокировке будет приниматься только при наличии неопровержимых доказательств нарушения, чтобы исключить риск ложных обвинений в адрес добросовестных исследователей. Механизм модерации и право на апелляцию Для реализации новой стратегии контроля ArXiv интегрирует систему предварительного одобрения рукописей через специализированные платформы рецензирования. Теперь каждая работа должна пройти дополнительный фильтр качества перед публикацией в открытом доступе. Несмотря на строгость мер, администрация ресурса предусмотрела механизм защиты прав ученых. Авторы, не согласные с решением о блокировке, имеют право обжаловать вердикт через систему апелляций, предоставив доказательства самостоятельного выполнения работы или корректности использованных методов. Будущее научной верификации Внедрение данных мер отражает глобальный тренд в академической среде, направленный на защиту чистоты данных от бесконтрольного влияния Large Language Models (LLM). Эксперты полагают, что подобные прецеденты заставят научное сообщество более ответственно подходить к внедрению ИИ-инструментов в процесс написания статей. Ужесточение политики ArXiv станет важным этапом в эволюции научных публикаций, обеспечивая доверие к открытым источникам данных в эпоху массового распространения генеративных технологий. Ожидается, что новая система фильтрации значительно снизит объем информационного шума и повысит общую ценность препринтов для мирового научного сообщества.