Компания Meta представила новые инструменты безопасности для защиты несовершеннолетних пользователей в цифровой среде. Теперь искусственный интеллект корпорации будет автоматически анализировать диалоги подростков с чат-ботом Meta AI и уведомлять родителей, если в переписке будут выявлены признаки обсуждения суицида или намеренного самоповреждения. Данная инициатива направлена на усиление контроля за психическим здоровьем молодежи в рамках экосистемы социальных сетей компании.
Механика работы и география внедрения
Для реализации новой функции была разработана специализированная система ИИ, обученная распознавать маркеры кризисных состояний в текстовых сообщениях. В случае обнаружения потенциальной угрозы, система отправляет автоматическое оповещение взрослым, которые активировали функции родительского контроля Instagram. На текущем этапе (июль 2026 года) функционал доступен ограниченному числу пользователей в следующих регионах:
- США и Канада;
- Великобритания;
- Австралия.
Связь с экстренными службами
Помимо родительских уведомлений, Meta работает над интеграцией инструментов для прямой связи с экстренными службами в ситуациях, когда риск совершения деструктивных действий оценивается как критический и немедленный. Это станет частью более широкой стратегии безопасности компании, включающей предоставление ресурсов психологической помощи непосредственно в интерфейсе взаимодействия с нейросетью.
Интеграция подобных инструментов подчеркивает ответственность технологических гигантов за безопасность создаваемых ими ИИ-ассистентов в контексте защиты уязвимых категорий пользователей.
Внедрение данных функций является ответом на растущую обеспокоенность общественности и регуляторов вопросами влияния алгоритмов на ментальное здоровье. Представители компании Meta заявляют о планах завершить глобальное развертывание новой системы безопасности к концу 2026 года, сделав инструменты мониторинга доступными для пользователей по всему миру.