Компания OpenAI инициировала масштабную программу ручной модерации под кодовым названием «Проект Лили» (Project Lily), направленную на улучшение качества ответов искусственного интеллекта. В рамках этой инициативы сотни сторонних подрядчиков получили доступ к реальным чатам пользователей с ChatGPT для анализа корректности работы алгоритмов. Основной задачей проекта является борьба с так называемым «подхалимством» нейросети — тенденцией ИИ подстраиваться под мнение собеседника в ущерб объективной истине.
Механика работы «Проекта Лили»
Согласно внутренним документам, оказавшимся в распоряжении издания 404 Media, процесс проверки включает в себя детальное изучение диалогов. Внешние специалисты оценивают ответы чат-бота по нескольким критериям, включая фактическую точность и отсутствие предвзятости. OpenAI стремится минимизировать случаи, когда модель подтверждает ложные утверждения пользователя только для того, чтобы казаться полезной.
- Сотни законтрактованных сотрудников просматривают полные цепочки сообщений.
- Модераторы выставляют оценки ответам ИИ для последующего дообучения модели (RLHF).
- Основной фокус сделан на выявлении логических ошибок и повышении нейтральности суждений.
Риски конфиденциальности и утечки данных
Несмотря на использование автоматизированных систем деидентификации, эксперты выражают обеспокоенность по поводу безопасности личной информации. Конфиденциальные данные, такие как имена, адреса или корпоративные секреты, могут обходить фильтры и становиться доступными для просмотра живыми людьми. Это создает дополнительные риски, так как пользователи зачастую доверяют чат-боту чувствительную информацию, не предполагая участия третьих лиц в процессе обработки запроса.
Внутренние отчеты показывают, что личные данные пользователей могут проникать через автоматические меры защиты и становиться видимыми для модераторов в рамках их рабочих сессий.
Перспективы развития систем модерации
На текущий момент привлечение человеческого ресурса остается ключевым инструментом для тонкой настройки LLM (больших языковых моделей). OpenAI подчеркивает, что подобные меры необходимы для создания безопасного и надежного ИИ, однако вопрос баланса между качеством продукта и приватностью пользователей остается открытым. В будущем компания планирует совершенствовать алгоритмы автоматического удаления персональной информации, чтобы минимизировать участие подрядчиков в просмотре «сырых» данных.