С нови отворени модели Meta предлага поредно обновяване на затруднената си стратегия за изкуствения интелект

Отворени тегла, отворен достъп

Наред с пускането на моделите, на Марк Зукърбърг се приписва авторството на дълго отворено писмо, което представя корпоративната стратегия на Meta по отношение на изкуствения интелект, както и по-широка аргументация за това как ИИ трябва да бъде разработван, разпространяван и регулиран.

То следва няколко изявления на ръководители на други компании от Big Tech и сферата на ИИ, в които се обсъждат предимствата на моделите с отворени тегла, затворените лаборатории и практиката на дистилация — нещо, което според съобщенията някои китайски лаборатории са правили, за да създадат модели, конкуриращи се с най-новите разработки на Anthropic и други компании.

На 24 юли няколко компании, включително Nvidia, Hugging Face, Meta, Mistral, Mozilla, OpenAI и други, подписаха съвместно отворено писмо, озаглавено „Отворените тегла и американското лидерство в областта на ИИ“, в което се защитава стойността на моделите с отворени тегла за разлика от — или поне в допълнение към — патентованите модели, както и дистилацията като легитимна практика, макар да се прави разграничение за „незаконни опити за извличане на стойност от затворени модели“. В писмото се призовава за „целенасочени правни и търговски рамки, а не за всеобхватни ограничения върху техники, които играят важна роля в иновациите в областта на ИИ“.

По темата за дистилацията Meta и Зукърбърг пишат:

Способността на моделите да се учат от други модели е важен принцип за функционирането на екосистемата с отворен код. Всички модели на ИИ произлизат от човешкото знание. Някои се опитаха да представят дистилацията като вредна, но според мен е важно да се защити принципът, че можеш да се учиш от всичко, което можеш да наблюдаваш.

Въпреки това по-голямата част от есето се фокусира върху идеята за децентрализирани системи с ИИ, които се разпространяват широко. То също така директно оспорва аргументите, че са необходими строго контролирани, патентовани модели и системи с ИИ заради опасения от екзистенциални заплахи или катастрофално разминаване с човешките цели:

Изненадващо е, че дискурсът на много от хората, разработващи ИИ, е толкова изпълнен с мрачни прогнози. Не разбирам защо някой, който вярва, че ИИ ще премахне повечето работни места и голяма част от значимостта на човечеството, би се втурнал да изгради това бъдеще. Идеята, че ИИ е толкова опасен, че единственият безопасен път е екстремната концентрация на власт, изглежда по своята същност проблематична.

Зукърбърг пише, че разбирането за съгласуваността, възприето от компании като Anthropic — която твърди, че се опитва да обучава единни и широко приложими базови модели с оперативни параметри и защитни механизми, гарантиращи, че те ще са от полза за човечеството като цяло — е „фундаментално погрешно“.