Группа из более чем двухсот экспертов по детскому развитию, правозащитных организаций и образовательных учреждений направила открытое письмо руководству корпорации Google. В обращении, адресованном генеральному директору Google Сундару Пичаи и главе YouTube Нилу Мохану, авторы призывают ввести строгий запрет на распространение видеороликов, созданных с помощью искусственного интеллекта, на платформах YouTube и YouTube Kids.
Риски низкокачественного ИИ-контента
Основная претензия специалистов заключается в том, что ИИ-генерированные видеоролики зачастую позиционируются как образовательный контент, но на практике лишены смысловой нагрузки. Эксперты подчеркивают, что массовое производство таких материалов направлено исключительно на извлечение прибыли за счет юной аудитории, что негативно сказывается на качестве потребляемой информации.
Согласно данным публикации Bloomberg, правозащитники выделяют следующие критические проблемы:
- Бессмысленность содержания при формальном соответствии образовательным категориям.
- Снижение способности детей концентрировать внимание из-за специфических алгоритмов генерации видеоряда.
- Трудности в разграничении реальности и вымышленных объектов, созданных нейросетями.
- Потенциальное нарушение когнитивного развития из-за отсутствия человеческого контроля над сценариями.
Требования правозащитных организаций
Авторы письма настаивают на пересмотре политики модерации, утверждая, что алгоритмические рекомендации способствуют продвижению низкокачественного контента. По мнению специалистов по безопасности детей, текущие инструменты фильтрации YouTube Kids не справляются с потоком синтетических видео, которые имитируют популярные детские форматы, но не несут педагогической ценности.
Использование искусственного интеллекта для производства бесконечных видеофрагментов ради прибыли наносит ущерб способности детей отличать реальное от вымышленного.
Ситуация вокруг YouTube подчеркивает растущую необходимость в более жестком регулировании ИИ-сервисов в сегменте детских медиа. В условиях стремительного развития технологий корпорации Google предстоит решить сложную задачу: найти баланс между инновациями в области машинного обучения и обеспечением цифровой безопасности для самых маленьких пользователей.