В мире технологий не утихают дискуссии о будущем искусственного интеллекта (ИИ) и необходимости его регулирования. Одним из наиболее авторитетных и откровенных голосов в этом споре является Ян ЛеКун, лауреат премии Тьюринга и ведущий научный сотрудник Meta по ИИ. В недавнем сообщении на платформе X он высказался против текущих подходов к регулированию ИИ, заявив, что общественностью "манипулируют те, кто стремится к захвату регулирования". По его словам, опасения, подогреваемые "сомнительными исследованиями", используются для того, чтобы "задушить" развитие открытых моделей ИИ.
Ян ЛеКун и опасения по поводу регулирования
Ян ЛеКун, признанный один из "крестных отцов ИИ", последовательно выступает против преждевременного и чрезмерного регулирования искусственного интеллекта. Он утверждает, что текущий уровень развития ИИ слишком низок для предметного регулирования, сравнивая это с попытками регулировать ранний интернет. ЛеКун скептически относится к широко распространенным опасениям о сверхразумном ИИ, считая, что многие "фантазируют" о сценариях наподобие "Терминатора", в то время как современные модели "едва ли превосходят кошек в способности к обучению".
По мнению ЛеКуна, идея регулирования ИИ на текущем этапе "контрпродуктивна". Он подчеркивает, что большие языковые модели (LLM), лежащие в основе многих популярных чат-ботов, пока не обладают такими ключевыми способностями, как постоянная память, истинное рассуждение, планирование и понимание физического мира. Эти системы, по его словам, демонстрируют лишь
"способность манипулировать языком, но не быть по-настоящему умными".
Риски "захвата регулирования" и открытые модели ИИ
Основная обеспокоенность ЛеКуна связана с риском так называемого "захвата регулирования". Он считает, что
"общественность манипулируют те, кто стремится к захвату регулирования".Это может привести к тому, что крупные технологические игроки будут использовать регулирование для ограничения конкуренции, особенно в отношении открытых моделей ИИ. ЛеКун видит в концентрации власти через проприетарные системы значительную опасность.
Критика направлена и на "сомнительные исследования", которые, по его мнению, подогревают необоснованные опасения и используются как предлог для "удушения" открытых проектов. Данные независимых исследований подтверждают, что сотни тестов, предназначенных для оценки безопасности и эффективности ИИ, содержат ошибки и могут давать недостоверные или вводящие в заблуждение результаты. Эти бенчмарки часто используются в качестве замены полноценного регулирования, но их недостатки ставят под сомнение обоснованность заявлений о прогрессе в области ИИ.
Перспективы развития ИИ и роль открытости
Ян ЛеКун и Meta активно поддерживают открытую разработку ИИ, выпуская многие из своих крупнейших моделей, таких как Llama 2 и Llama 3, в открытом доступе. Он убежден, что открытый исходный код является ключом к демократизации ИИ, делая технологии доступными для всех, а не только для избранных корпораций.
ЛеКун призывает сосредоточиться на "мировых моделях" – системах, которые учатся понимать окружающий мир через видео, пространственные данные и взаимодействие с объектами, а не только через обработку текста. Этот подход, по его мнению, необходим для достижения подлинного человеческого уровня интеллекта. Недавние сообщения о его возможном уходе из Meta для создания собственного стартапа, сфокусированного на "мировых моделях", лишь подчеркивают его приверженность этому альтернативному пути развития ИИ.
В целом, позиция Яна ЛеКуна акцентирует внимание на необходимости взвешенного подхода к регулированию ИИ, который не будет препятствовать инновациям и развитию открытых технологий. Это критически важно для предотвращения монополизации ИИ и обеспечения его всеобщей доступности и пользы для общества.