Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации выступило с инициативой по введению обязательной фильтрации контента для систем искусственного интеллекта. По заявлению ведомства, государственное регулирование в данной сфере необходимо для обеспечения безопасности информационной среды и предотвращения распространения недопустимых материалов через современные алгоритмы машинного обучения.
Двусторонний контроль данных в нейросетях
Заместитель главы Минцифры Александр Шойтов пояснил, что предлагаемые ограничения должны носить комплексный характер. Согласно позиции ведомства, цензурированию подлежат два ключевых потока информации:
- Данные, которые пользователи вводят в систему (промпты), чтобы исключить попытки генерации вредоносного контента.
- Ответы, которые генерирует искусственный интеллект, для проверки их на соответствие этическим и правовым нормам.
Внедрение подобных механизмов потребует от разработчиков создания дополнительных программных фильтров, которые будут выступать промежуточным звеном между ядром нейросети и интерфейсом взаимодействия с человеком.
Перспективы нормативного регулирования
Обсуждение вопросов цензурирования ИИ происходит на фоне активного развития отечественных языковых моделей и чат-ботов. Эксперты отмечают, что установление четких правил игры поможет минимизировать риски использования ИИ в противоправных целях.
Ограничения должны распространяться как на вводимые пользователями данные, так и на ответы системы, — подчеркнул Александр Шойтов, обозначая вектор будущей работы ведомства.
Инициатива Минцифры знаменует переход к этапу более жесткого контроля над технологиями генеративного интеллекта в России. В ближайшее время ожидается разработка конкретных технических регламентов и критериев, по которым будет оцениваться допустимость контента. Это решение может существенно повлиять на архитектуру будущих ИТ-решений и стандарты безопасности в области высоких технологий.