На прошедшей сессии Петербургского международного экономического форума (ПМЭФ) генеральный директор MTS Web Services Павел Воронин выступил с важным заявлением относительно объективности современных алгоритмов. Эксперт подчеркнул, что искусственный интеллект не является полностью нейтральным инструментом, так как его выводы и логика напрямую определяются спецификой исходной информации.
Факторы влияния на объективность нейросетей
По мнению Павла Воронина, предвзятость или специфическая направленность ИИ-моделей формируется на этапе их разработки и внедрения. Качество и характер ответов системы зависят от нескольких ключевых факторов:
- Совокупность данных, на которых проводилось первичное обучение нейросети;
- Процесс дообучения (fine-tuning) под конкретные задачи или рынки;
- Настроенные разработчиками фильтры безопасности и этические ограничения.
Таким образом, любая ИИ-система неизбежно отражает те ценности и приоритеты, которые были заложены в нее создателями в процессе подготовки датасетов.
Международная кооперация как двигатель инноваций
Важной частью выступления главы MTS Web Services стал тезис о необходимости глобального взаимодействия в ИТ-сфере. Воронин отметил, что технологические прорывы редко происходят в условиях изоляции. Для создания по-настоящему эффективных и безопасных решений в области машинного обучения требуется активный международный диалог.
Результат работы ИИ зависит от данных, на которых он обучен или дообучен, а также от установленных фильтров — резюмировал топ-менеджер.
Подводя итог, можно отметить, что признание субъективности ИИ на столь высоком уровне задает вектор для дальнейшей дискуссии о прозрачности алгоритмов. В будущем развитие технологий ИИ, вероятно, будет тесно связано не только с наращиванием вычислительных мощностей, но и с поиском международных стандартов для верификации данных и минимизации предвзятости автоматизированных систем.