С нарастващите опасения за безопасността на ИИ трима пионери защитават отворения подход

Тъй като проекти като Pacing the Frontier разчитат на големите лаборатории като начин да поддържат изследванията в областта на ИИ безопасни, моделите с отворен код се превърнаха в болна тема за индустрията. При безплатно разпространение и слаб контрол върху начина, по който се използват, моделите с отворени тегла не могат лесно да бъдат контролирани, което кара някои лаборатории да ги смятат за направо плашещи.

Но на конференцията Ai4 в Лас Вегас миналата седмица трима от най-уважаваните изследователи на ИИ в света — носителят на Нобелова награда Джефри Хинтън, главният изпълнителен директор и съосновател на World Labs Фей-Фей Ли и съоснователят на Coursera Андрю Нг — изразиха позициите си по въпроса. И макар да не бяха единодушни относно конкретните подходи, и тримата представиха убедителни аргументи в полза на това ИИ да остане отворен.

За тримата оратори основното безпокойство беше свързано с това малък брой големи компании за ИИ да контролират темпото на напредъка. Когато няколко компании контролират достъпа до дадена технология, както правят Apple и Google с мобилните операционни системи, иновациите могат да се забавят, а компаниите, които контролират платформите, могат да влияят върху това какво се създава върху тях.

Андрю Нг заяви, че се опасява от появата на подобна динамика в областта на ИИ. „Не искам да има пазачи на входа“, каза Нг. „Това ограничава достъпа на всички нас до ИИ.“

Компаниите имат стимул да защитават конкурентните си предимства, включително чрез влияние върху правилата, които регулират индустрията. Това може да създаде динамика, при която само най-големите и най-добре капитализирани фирми разполагат с ресурсите за създаване на най-напредналите системи за ИИ.

Решението на Нг беше да се поддържат множество доставчици, като моделите и компаниите се конкурират, вместо малък брой играчи да доминират в областта. „Ако трябваше да дам една препоръка, тя би била да насърчаваме отвореността“, каза Нг, „защото ИИ е невероятна технология и искам тя да бъде в ръцете на всички.“

Но не всички бяха съгласни, че моделите с отворени тегла ще помогнат за запазването на това положение. Хинтън по-специално направи разграничение между софтуера с отворен код, който прави базовия код достъпен за проверка и модификация, и моделите с отворени тегла, които предоставят на обществеността параметрите на обучен модел на ИИ.

„Отвореният код е чудесен. Показвате на хората кода и много хора преглеждат редовете и казват: „О, има грешка.“ При отворените тегла обучавате голям модел и след това предоставяте на хората теглата. Това е много различно“, каза Хинтън. „Бях против отворените [тегла], защото така става много лесно хората да вземат тези големи базови модели, чието обучение е изключително скъпо, и с много по-малко средства да ги обучат да вършат лоши неща, като например кибератаки.“

Но независимо от резервите си Хинтън призна, че моделите с отворени тегла вече са постоянна част от екосистемата на ИИ. „Мисля, че тази битка е загубена. Вече имаме модели с отворени тегла, така че бариерата пред много хора, които искат да получат тези големи модели — а именно разходите за обучение на базови модели — изчезна. Вече е твърде късно.“

И все пак приемането на реалността не означаваше пренебрегване на рисковете. Позицията на Хинтън беше ясна: ИИ ще продължи да се развива и той смяташе, че това до голяма степен е нещо добро. Според него това ще повиши производителността и ще подобри образованието и здравеопазването. „Да се тревожим за възможните негативни последици от ИИ и за това какво могат да направят интелигентни същества, когато станат по-умни от нас, не е несправедливо. Несправедливо е да наричаме всеки, който мисли по този начин, всяващ страх“, добави Хинтън.

Нг имаше различно виждане. Според него въпросът не беше дали отворените модели са рискови, а кой контролира достъпа и кой ще спечели на пазара. Който създаде по-евтиния модел, ще има предимство. Ако моделите с отворени тегла от Китай получат широко разпространение в Азия, Африка и/или развиващия се свят, предупреди той, те биха могли да повлияят на начина, по който милиарди хора се сблъскват с идеи за демокрация, свобода и човешки права.

„Едно нещо, което се надявам да направим, е да насърчим американската конкурентоспособност и ИИ с отворен код. Оказва се, че ИИ е огромен източник на мека сила. Можете да видите как китайският модел постига значителни успехи например в Африка“, каза Нг. „Но опасението ми е, че заради цялото лобиране в САЩ и всяването на страх разработването на ИИ с отворен код в Америка трудно се конкурира с моделите с отворени тегла, идващи от Китай. Притеснявам се, че ако Китай открие фундаментално по-ефективен от гледна точка на разходите начин за създаване на ИИ, тогава по-ефективните от гледна точка на разходите решения ще имат фундаментално предимство при приемането им от бизнеса.“

Ли оспори тази постановка. „Много опасно е да превръщаме това в дихотомия между пълна отвореност и пълна затвореност“, каза тя. „При сложните софтуерни системи, както и при научните системи, нещата са много по-нюансирани.“

Ли даде ядрената физика като пример: научните статии се публикуват открито, но уранът е регулиран, докато лабораторната работа е някъде по средата. По думите ѝ поуката е, че отвореността не трябва да бъде избор „всичко или нищо“. Различните нива на екосистемата могат да функционират при различни степени на отвореност.

Тя също така подчерта сътрудничеството между публични и частни институции, като например Проекта за човешкия геном. Полученото знание се превърна в платформа, върху която други можеха да надграждат, каза тя, позволявайки на фармацевтичните компании да печелят, на учените да развиват работата си, а на обществото — да се възползва.

„Затова мисля, че трябва да използваме [ИИ] като вид инфраструктура“, каза Ли. „Нуждаем се от определени нива на отвореност — както в научните открития, образованието и глобалните партньорства, така и в доходоносните бизнес модели за предприемачите. Но ще приемем и системи със затворен код. Този дебат, особено на всеобхватното ниво на тезата „можем да толерираме само едното“, е фалшив дебат. Трябва да достигнем до ниво на нюансирано разбиране.“

Но всички бяха съгласни, че някакво ниво на регулиране ще бъде необходимо, за да се поддържа ИИ в правилната посока. „Това, което искаме да направим, е да развиваме ИИ в посока, която помага на хората, а регулирането ще ни помогне да постигнем това“, каза Хинтън. „Не можем да оставим хора като Илон Мъск и Марк Зукърбърг да решават как трябва да се развива ИИ.“