Истинският Anthropic, моля, да се изправи

Тази статия първоначално се появи в The Algorithm, нашия седмичен бюлетин за изкуствения интелект. За да получавате първи истории като тази във входящата си поща, абонирайте се тук.

След седмици на трескави спекулации Anthropic подаде проспекта си за първично публично предлагане на акции. Документът от 335 страници (около 100 страници са посветени на рисковете) излага уникалния възглед на компанията за технологията, която разработва, и начините, по които според нея тя ще промени света. 

Но Anthropic усъвършенства уменията си за разказване на истории от години. Всъщност публичните ѝ послания са майсторски клас по завладяване на наратива.

По-рано този месец Джак Кларк, съоснователят на компанията и ръководител на политиките, произнесе реч на срещата на МВФ в Банкок, в която обяви пред събралите се икономисти, банкери и законодатели, че сингулярността вече е настъпила.

Въведена от писателя на научна фантастика и футурист Върнър Виндж преди около 40 години (и отдавна обсъждана в по-нишовите краища на интернет), сингулярността би трябвало да е моментът, в който технологията става толкова съвършена, че надхвърля способностите на своите създатели.

Според тази идея хората остават в прахта, вече неспособни да се конкурират с плодовете на своето някогашно творение — или дори да ги разберат.

А този измислен свят, който мнозина от нас си представят още от деца? Очевидно вече живеем в него: „Вярвам, че тази година получихме убедителни доказателства, че той вече е започнал“, каза Кларк пред аудиторията си.

Компанията разказва ярка (и в много отношения плашеща) история за бъдеще, което представя като неизбежно, но което все още не се е случило, често заимствана от изтъркани мотиви на научната фантастика. Тя представя технологията си като мистериозна и опасна и настоява, че е единствената компания, на която може да се има достатъчно доверие, за да я укроти. (Кой инвеститор не би искал да се включи в това?)

Ето още един пример. Миналата година Крис Ола, друг съосновател на Anthropic, беше поканен да говори пред Ватикана, където разказа на папа Лъв XIV и други религиозни учени и представители на властта какво научава компанията му за своята технология. „Ще бъда честен: продължаваме да откриваме неща, които са мистериозни и дори тревожни“, каза той. „Намираме доказателства за самоанализ. Откриваме вътрешни състояния, които функционално наподобяват радост, удовлетворение, страх, скръб и безпокойство.“

Нека пренебрегнем факта, че много изследователи биха се присмели на подобно откровено внушение, че софтуерът на Anthropic има човекоподобно вътрешно преживяване. Когато толкова малко неща изглеждат сигурни, казаното от Anthropic (и от останалите водещи компании в областта на изкуствения интелект) се грабва и стиска като парчета от потъващ кораб.

Не казвам, че непременно грешат за всичко това. (Това е тема за друг ден.) Но в свят, в който никой не знае какво предстои, компании като Anthropic получават възможността да запълнят вакуума. 

Струва си да спрем за момент и да попитаме: Какво представлява Anthropic? Може да звучи като начален въпрос в семейно телевизионно състезание, но отговорът е много по-труден, отколкото бихте си помислили.

Този въпрос не ми дава мира, откакто миналата седмица прочетох размяна на реплики в X, започната от Нейтън Калвин, главен стратегически директор на Encode AI — базирана във Вашингтон организация, която се застъпва за регулиране. Калвин беше недоволен от законодателството, предложено от Anthropic в проектозакон, който компанията тайно е разпространила сред американски законодатели (и който впоследствие изтече).  

Anthropic иска да бъде възприемана като добрия герой, каза Калвин. Но защо трябва да ѝ се доверяваме? „Какво представлява Anthropic?“, попита той.

Ето един отговор: Anthropic е компания, чиято оценка при първичното публично предлагане надхвърля 1,5 трилиона долара, което ще донесе на нейните съоснователи, включително Кларк и Ола, огромно богатство. 

Но Anthropic винаги е настоявала, че е нещо повече от това. Както отбеляза Калвин: Anthropic може да бъде разглеждана като организация за безопасност на изкуствения интелект, фокусирана върху разработването на мощна технология, която е надеждна и (почти) без риск. Или може да бъде разглеждана като група хора, твърдо решени да създадат технология със свръхчовешки способности преди всички останали — може би защото вярват, че са най-отговорните хора, които да го направят, а може би заради собственото си его.

Всъщност Anthropic е всичко това едновременно. Както написа главният изпълнителен директор Дарио Амодей в отговор на публикацията на Калвин: „Стратегията ни винаги е била това, което наричам „надпревара към върха“ — като покажем, че е възможно технологията да се изгражда отговорно, можем да вдигнем летвата за цялата индустрия. Силите, които движат надпреварата към върха, са многократно по-ефективни, ако компанията, която ги прилага, е на водещия фронт; това е урок, който съм научавал многократно. И когато погледна тази стратегия като цяло, се гордея с постиженията ни и заставам зад нея.“

Амодей го представя така, сякаш е подредил всичко, но изпълняването на множество роли е трудно. Например между приоритетите на една организация за безопасност на изкуствения интелект и тези на печеливш мегакорпоративен гигант съществуват огромни противоречия. (В публикацията си Амодей признава, че е допускал грешки.)

В крайна сметка историите, които Anthropic разказва на себе си, би трябвало да ни помогнат да разберем историите, които разказва на нас. Те би трябвало да ни помогнат да преценим доколко да ѝ се доверим да се саморегулира или дали трябва да я принудим да предостави на външни проверяващи на безопасността достъп до моделите си при наши, а не при нейни условия. Те би трябвало да ни помогнат да ѝ дадем кредит на доверие (или не), когато наяве излезе законодателство, което изглежда обслужва собствените ѝ интереси.

Но според мен историите разкриват многоглава хидра. Anthropic е различни неща за различните хора и не съм сигурен, че това я прави по-надеждна. В много отношения една старомодна технологична компания — без ролевите игри с научна фантастика, без езотериката — би била много по-лесна за разчитане.