Компания Amazon столкнулась с серьезной проблемой при подготовке данных для обучения систем искусственного интеллекта. В ходе проверки наборов данных, предназначенных для улучшения алгоритмов, специалисты корпорации обнаружили сотни тысяч единиц контента, предположительно содержащих материалы с сексуальным насилием над детьми (CSAM). Данный инцидент подчеркивает критическую важность премодерации огромных массивов информации, собираемых из открытых источников для разработки современных нейросетей.
Меры по очистке данных и взаимодействие с регуляторами
Согласно имеющейся информации, обнаруженные незаконные материалы были удалены из обучающих выборок до того, как начался процесс тренировки моделей ИИ. Представители Amazon заявили о передаче соответствующих отчетов в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC). NCMEC является основной американской некоммерческой организацией, координирующей усилия по борьбе с эксплуатацией несовершеннолетних в цифровой среде.
Несмотря на оперативное удаление файлов, к действиям техгиганта возникли вопросы со стороны экспертов по безопасности. Как сообщает издание Bloomberg, официальные лица выразили обеспокоенность тем, что Amazon не предоставила полные сведения об источниках, из которых был получен данный контент. Это затрудняет процесс отслеживания первичных площадок распространения запрещенных материалов.
Риски использования нефильтрованного интернет-контента
Проблема чистоты данных становится всё более острой по мере роста масштабов генеративного ИИ. Разработчики зачастую используют методы автоматического сбора информации (web-scraping), что несет в себе следующие риски:
- Попадание в обучающую выборку нелегального и этически неприемлемого контента.
- Возможность воспроизведения моделью вредоносных паттернов или запрещенных изображений.
- Юридические и репутационные угрозы для технологических компаний.
Ранее другие участники рынка также сталкивались с критикой из-за наличия деструктивного контента в открытых датасетах, таких как LAION-5B, которые широко использовались для обучения визуальных нейросетей.
Инцидент с Amazon в очередной раз подтверждает необходимость внедрения более строгих стандартов аудита данных в индустрии искусственного интеллекта. В условиях отсутствия прозрачности в вопросе источников заимствования информации, технологическим корпорациям предстоит найти баланс между скоростью разработки инноваций и этической безопасностью создаваемых продуктов.