Компания Anthropic, разработчик больших языковых моделей, опубликовала отчет о выявлении масштабной сети мошеннических приложений для знакомств. Согласно результатам расследования, злоумышленники использовали нейросеть Claude для имитации общения от лица реальных людей, вводя в заблуждение десятки тысяч пользователей. Данный инцидент подчеркивает растущие риски использования генеративного искусственного интеллекта в целях социальной инженерии и обмана на онлайн-платформах.
Масштабы ИИ-манипуляций в приложениях для знакомств
В ходе мониторинга, проведенного в апреле 2026 года, эксперты по безопасности выявили студию разработки, которая запустила более 20 приложений для знакомств. На этих платформах соблюдался жесткий дисбаланс между реальными людьми и автоматизированными алгоритмами. По данным отчета, система смешивала профили в пропорции три AI-персонажа на одного живого человека. В общей сложности за две недели наблюдений было задействовано более 4700 виртуальных личностей, которые вели активную переписку с пользователями.
- Общее количество вовлеченных пользователей: более 25 000 человек.
- Объем сгенерированного контента: около 2,36 миллиона сообщений.
- География воздействия: основная часть пострадавших зафиксирована в США.
Злоумышленники создавали видимость высокой активности на платформах, чтобы удерживать пользователей и стимулировать их к совершению платных действий внутри приложений.
Технические детали и методы обмана
Мошенническая схема опиралась на возможности языковой модели Claude поддерживать естественный диалог. Нейросеть успешно обрабатывала тысячи одновременных чатов, адаптируясь под контекст общения. Однако при попытках пользователей перевести общение на новый уровень — запросах на видеозвонки, отправку личных фотографий или обмен ссылками на социальные сети — в процесс вмешивались операторы-люди. Это позволяло поддерживать иллюзию реальности собеседника в критические моменты, когда искусственный интеллект мог выдать себя.
Эти платформы утверждали, что все пользователи являются реальными людьми, однако около 75% собеседников оказались AI-персонажами — отмечается в материалах расследования Phoenix Network Technology.
Выявленный кейс демонстрирует необходимость усиления контроля за использованием API мощных языковых моделей со стороны их разработчиков. Anthropic заявляет о продолжении работы над механизмами обнаружения нецелевого использования технологий ИИ. В будущем подобные инциденты могут привести к ужесточению правил верификации для разработчиков сторонних приложений, чтобы предотвратить создание систем для массовой дезинформации пользователей в романтических и финансовых целях.