Социальная сеть TikTok оказалась в центре крупного скандала после публикации данных о тестировании алгоритмов, влияющих на психическое здоровье подростков. Согласно отчету Bloomberg, компания проводила масштабные A/B-тестирования, в ходе которых миллионы людей намеренно оставляли без доступа к обновленным функциям безопасности. Основное внимание общественности приковано к трагическому случаю с 16-летним Чейзом Наской, чья гибель, по мнению следствия, могла стать прямым следствием попадания в «контрольную группу» опасного эксперимента.
Механика эксперимента и влияние на вовлеченность
В 2021 году разработчики TikTok подготовили обновление алгоритма, призванное фильтровать вредоносный контент и снижать риски для уязвимых категорий пользователей. Однако внедрение защиты не было повсеместным. В целях оценки влияния мер безопасности на метрики вовлеченности, руководство платформы инициировало разделение аудитории на группы.
- Контрольная группа составила 10% американской аудитории (около 15 миллионов человек).
- Эти пользователи продолжали получать рекомендации по старой схеме, без обновленных фильтров защиты.
- Целью исследования было сравнение времени удержания пользователей в приложении при наличии и отсутствии ограничений на шок-контент.
Подобные методы оценки эффективности ПО являются стандартными в IT-индустрии, однако их применение в контексте психоэмоциональной безопасности вызывает серьезные этические и правовые вопросы.
Трагические последствия для пользователей
Одним из участников «незащищенной» группы стал подросток Чейз Наска. Анализ его активности показал, что алгоритмы TikTok сформировали для него замкнутую экосистему деструктивного контента. Лента рекомендаций юноши содержала более 7500 видеороликов, посвященных темам глубокой депрессии, социальной изоляции и суицидальных намерений.
В феврале 2022 года Чейз покончил с собой, что послужило поводом для детального расследования деятельности компании. Эксперты отмечают, что механизмы платформы не просто предлагали видео, а создавали эффект «эхо-комнаты», многократно усиливая негативные переживания пользователя ради увеличения времени просмотра.
Компания скрыла исправление алгоритма от миллионов пользователей, фактически используя их в качестве подопытных в эксперименте с потенциально летальным исходом.
Данный инцидент усиливает давление на технологических гигантов со стороны регуляторов. Ожидается, что дело TikTok станет прецедентом для ужесточения законодательства в сфере алгоритмической прозрачности и ответственности социальных сетей за психологическое благополучие несовершеннолетних. Дальнейшие разбирательства могут привести к обязательным аудитам рекомендательных систем независимыми государственными органами.