Компания TikTok официально прокомментировала инцидент с участием чат-бота Doubao, чья ошибка в распознавании изображений привела к пищевому отравлению пользователя. В условиях стремительного развития технологий искусственного интеллекта подобные случаи поднимают важные вопросы о границах ответственности разработчиков и безопасности использования нейросетей в повседневной жизни.
Детали инцидента и реакция разработчиков
Вице-президент TikTok Ли Лян подтвердил, что программное обеспечение неверно идентифицировало дикорастущий гриб, обозначив его как съедобный продукт, напоминающий «куриную ножку». После употребления находки в пищу пользователь почувствовал недомогание. Представители сервиса Doubao оперативно связались с пострадавшим для выяснения обстоятельств. В ходе внутренней проверки было установлено, что алгоритм действительно допустил ошибку в классификации объекта, однако система сопроводила свой ответ стандартными предупреждениями о возможных рисках.
«Проверка записи взаимодействия подтвердила, что система идентифицировала дикий гриб как "куриную ножку", но при этом предоставила предупреждения о рисках безопасности», — сообщил Ли Лян в официальном заявлении от 5 июня 2026 года.
Проблемы точности больших языковых моделей
Руководство платформы подчеркивает, что современные большие языковые модели (LLM) находятся на стадии активной итеративной разработки. Несмотря на высокую производительность в обработке данных, ИИ все еще склонен к галлюцинациям и фактическим ошибкам. Для минимизации рисков компания рекомендует придерживаться следующих правил:
- Использовать ответы ИИ только в качестве справочной информации.
- Не полагаться на советы нейросетей в вопросах, касающихся здоровья и жизни.
- Проверять данные в экспертных источниках, особенно при идентификации биологических видов.
Перспективы безопасности ИИ-сервисов
Данный случай стал прецедентом, вынуждающим технологических гигантов пересмотреть механизмы выдачи рекомендаций в критических сферах. Хотя TikTok и Doubao продолжают совершенствовать свои алгоритмы, основной акцент делается на образовании пользователей и их критическом восприятии генеративного контента. Специалисты отрасли прогнозируют внедрение более строгих фильтров для запросов, связанных с медициной и безопасностью питания, чтобы исключить вероятность повторения подобных инцидентов в будущем.
Инцидент с Doubao наглядно демонстрирует, что даже самые продвинутые системы на базе ИИ пока не способны полностью заменить человеческую экспертизу. В долгосрочной перспективе ключевой задачей разработчиков станет поиск баланса между функциональностью нейросетей и обеспечением абсолютной безопасности для конечного потребителя.