Наистина ли AI индустрията е готова да забави темпото?

Наблюдаваме ожесточен дебат относно безопасността на ИИ и потенциалното забавяне на развитието му, след като наскоро главният изпълнителен директор на Anthropic Дарио Амодей публикува план за „забавяне на темпото на авангарда“, докато главният изпълнителен директор на Nvidia Дженсън Хуанг публично повтори твърденията на президента Доналд Тръмп, че негативната реакция срещу ИИ е измама и регулирането е ненужно.

В последния епизод на подкаста Equity на TechCrunch Кърстен Коросек, Шон О’Кейн и аз обсъдихме дали ръководители като Амодей и главният изпълнителен директор на OpenAI Сам Алтман сериозно възнамеряват да забавят развитието.

Въпреки че бях изненадан колко много лидери в индустрията сякаш изразиха подкрепата си за плана на Амодей, Шон отбеляза, че планът изглеждаше недостатъчно конкретен.

А когато Кристен попита дали съчетанието от съществуващите регулации и функционирането на свободния пазар може само по себе си да осигури достатъчно гаранции, Шон отговори: „В момента имаме федерално правителство, което със сигурност не изглежда особено склонно да прилага регулациите в широк смисъл, камо ли конкретно в този случай.“

Освен това той заяви: „Не изглежда да има кой знае какъв избор за потребителите, който да движи този пазар, в смисъл че, добре, ако някоя от тези компании направи нещо наистина лошо, тогава това ще се отрази на броя на анулираните абонаменти или на нещо подобно.“

Продължете да четете за кратък преглед на нашия разговор, редактиран за дължина и яснота.

Антъни Ха: Шон, какво мислиш? Наистина ли ще „забавим темпото на авангарда“?

Шон О’Кейн: По някаква причина това звучи като нещо от „Точка на пречупване“. Просто е много калифорнийско изказване, като: „Ще забавим темпото на авангарда, брато.“ 

Не знам. Казах го в това предаване миналата седмица — не мислех, че сме се запътили към забавяне от какъвто и да е вид, до голяма степен защото не мисля, че тези компании са структурирани по начин, който позволява това.

Така че това беше доста незабавен обрат спрямо казаното от мен преди седмица — да чуя това от Дарио в Anthropic и Сам в OpenAI, а до известна степен и от Илон Мъск — и можем да обсъдим дали вярваме в това или не. Ще кажа, че не мисля, че съм бил напълно неправ, защото дори при тези общи планове, които Дарио изложи в публикация в блога, и при някои от нещата, за които са говорили други лидери, имам чувството, че все още ни липсват много конкретни подробности — не само за някои от твърденията защо тези хора смятат, че съществуват опасности и рискове, но и за това какво точно разбират под забавяне. 

Антъни, знам, че миналия уикенд си следил доста внимателно всичко това, докато събитията се развиваха, така че ми е любопитно дали може би си по-благосклонен от мен, що се отнася до разбирането на това, което се опитват да кажат.

Антъни: И аз имам въпроси. Това, което наистина ми направи впечатление, е фактът, че толкова много хора в индустрията сякаш бързо се обединиха около това. Дори преди Амодей да публикува публикацията си в блога, виждах други хора да публикуват някаква версия на този [план] още в дните преди това.

Доколкото разбирам, тези предложения, които идват от общността за безопасност на ИИ, са неща, които се обсъждат от известно време. Те не са просто неща, които [Амодей] е измислил сам. Но просто изглеждаше, че много хора са готови да ги приемат и в известен смисъл е окуражаващо да видим, че има консенсус. Но това също ме кара да се съмнявам, че това би представлявало истински, значителни стъпки към забавяне.

Кърстен Коросек: На първо място, консенсусът може да е нещо добро. Той обаче може да бъде и началото на създаването на картел. Затова нека сме ясни [за] кого говорим тук. Говорим за лабораториите за авангарден ИИ. И това е конкретно и важно.

Преди малко каза, че подробностите всъщност не са ясни, но знаем, че общата идея е независими оценители от трети страни да влязат и да работят вътре в [компании] като Anthropic или OpenAI, като наблюдават практиките и инцидентите, свързани с безопасността на ИИ. Но около това има много неясноти.

След това има и друго предложение големите компании за ИИ в демократичните държави да координират стандартите и ограниченията за безопасност. А после идва и елементът на международната координация. Това са общите идеи около предложението.

Ще добавя и че има значителна съпротива от страна на някои конкретни хора. И изненадващо — от някои хора, за които не предполагах, че ще се противопоставят. Очевидният пример, предполагам, е главният изпълнителен директор на Nvidia Дженсън Хуанг, който използва доста остри думи. Не знам какво мислите вие двамата за […] някои от неговите коментари и разговора, който проведе с президента Тръмп на сцената [на срещата на върха All-In]

Шон: Мисля, че Дженсън разбира, че до известна степен е възприеман като възрастния и разумен човек в стаята. Което е интересно, защото според мен тази динамика се промени. Ако преди година, почти две години, попитате хората кой изпълнява тази роля, когато тези компании за ИИ тепърва започваха да се разрастват сериозно, мисля, че много хора щяха да посочат Microsoft и Сатя Надела, а имам чувството, че Microsoft — по редица причини, в които не е нужно да навлизаме сега — загуби тази позиция на възрастния и разумен човек в стаята. Със сигурност отчасти защото Надела каза, че ще накара Google да танцува, а това така и не се случи. И всъщност в много отношения се случи обратното.

Мисля, че Дженсън разбира не само, че трябва да се хареса на възможно най-много хора и затова иска да каже най-умереното нещо, но и че е един от най-полезните посредници между тази сфера и тази администрация — дотолкова, че получава обаждане от президента, докато е на сцената на тази толкова посещавана и високопрофилна конференция, което позволява и на двамата да реагират на целия този хаос.

Кърстен: По отношение на това, че той е възрастният и разумен човек в стаята и посредникът — той е в позиция, в която би могъл да изпълнява тази роля. Но според мен [появата му], която изглеждаше малко режисирана, отиде крачка твърде далеч и наистина подчерта факта, че Nvidia има огромна полза от това развитието на ИИ да продължава без забавяне.

Не ми се иска да бъда цинична, но това беше първоначалната ми реакция.

Антъни: Интересите на Тръмп и Хуанг съвпадат, а освен това [Хуанг] казва на [Тръмп] това, което той иска да чуе. 

Смятам, че някои от нещата, върху които той конкретно се съсредоточи, заслужават да бъдат разгледани малко по-подробно. Първо, той говори за идеята: „Няма да има забавяне.“ Интересно е самото използване на думата „забавяне“, която се появяваше често — но в същото време и Алтман, и Амодей използват езика на забавянето, макар че думата, която предпочитат, е „темпо“. Нали така?

А тези три предложения — онези, които току-що описа, Кърстен — на теория биха могли да доведат до забавяне, но те не го казват изрично. Казват: „Хей, въвеждаме някои основни мерки за безопасност и ще имаме хора, които да ни наблюдават.“ Но никое от тези неща само по себе си не означава, че развитието трябва да се забави спрямо сегашното темпо, поне доколкото разбирам.

Кърстен: Имам въпрос към Шон. Не може ли да се твърди, че в общество със свободен пазар имаме действащи регулации, както и конкурентна среда, в която няма протекционизъм, и ако дадена компания пусне нещо опасно, тя вече няма да може да бъде жизнеспособна? А днес има регулатори, които могат да потърсят отговорност от тези компании. Или отхвърляш тази идея?

Шон: Във вакуум или на пазар, който не е изкривен от множество различни външни фактори — да, мисля, че има елемент от това. Но в момента имаме федерално правителство, което със сигурност не изглежда особено склонно да прилага регулациите в широк смисъл, камо ли конкретно в този случай. 

А също така сме в тази странна ситуация, в която — всъщност не знам как да го кажа по най-правилния начин, но не изглежда да има кой знае какъв избор за потребителите, който да движи този пазар, в смисъл че, добре, ако някоя от тези компании направи нещо наистина лошо, тогава това ще се отрази на броя на анулираните абонаменти или на нещо подобно.

Особено сега, когато те се насочиха към корпоративния сектор и получават много по-голяма част от приходите си, продавайки услугите си на компании, просто е естествено да е по-трудно да гласуваш с парите си. Корпорациите няма да прекратят използването на [OpenAI] Codex и да преминат към [Anthropic] Claude Code само защото не са съгласни по принцип с нещо, което OpenAI е направила.

А освен това те просто са подкрепяни от толкова много инвестиционни средства, че за тях е по-лесно да поемат тези загуби, ако действително се сблъскат с тях. Така че според мен това е добра идея на теория, но на практика имам чувството, че нищо от това всъщност не се случва.