Могат ли „свръхинтелектът“ и необвързващ пакт за безопасност да решат проблема с имиджа на ИИ?

Тази седмица президентът Доналд Тръмп прие много от най-големите имена в областта на изкуствения интелект — отчасти, за да обяви, че правителството на САЩ вече няма да го нарича изкуствен интелект. Сега той е супер интелект.

В последния епизод на подкаста Equity на TechCrunch Кърстен Коросек, Шон О’Кейн и аз обсъдихме мотивите зад срещата и какъв ефект би могла да има тя върху индустрията на изкуствения интелект. Всички бяхме доста скептични, че „Съвместният ангажимент за отговорностите при водещите технологии“, който ръководителите подписаха, ще доведе до нещо съществено, особено след като — както отбеляза Шон — той е „дълбоко необвързващ“, поне от правна гледна точка. (Вместо това Тръмп заяви, че го смята за „морално обвързващ“.)

Кърстен предположи, че истинското значение на срещата може да е било като „усилие за ребрандиране на изкуствения интелект“. (Това усилие продължи и този уикенд с обявяването от Тръмп на нови Сили за супер интелект.) За нея основното послание е било: „Изкуственият интелект ще ни убие, той е страшен, ще отнеме работни места — но супер интелектът няма да го направи.“

Продължете да четете, за да видите откъс от нашия разговор, редактиран за дължина и яснота.

Антъни Ха: Официално, със заповед на президента на Съединените щати, това вече не е изкуствен интелект, а супер интелект. Говорихме за това миналата седмица, защото това е нещо, за което [Тръмп] намекваше — той не намеква, а го казва от известно време. Но сега то е записано в изпълнителна заповед. Ако сте официален представител на САЩ, трябва да казвате супер интелект, а не изкуствен интелект.

Това беше и част от по-широкото съобщение относно безопасността на изкуствения интелект, което според мен е интересно както заради обявения пакт, така и заради самия факт, че това изобщо се случи. Изглежда, че всичко е било организирано доста бързо, защото само преди две седмици, преди седмица, президентът Тръмп казваше: „Нямаме нужда от всичко това, трябва да сме водещи в областта на изкуствения интелект, не можем да го ограничаваме по никакъв начин, нямаме нужда от регулация, всеки, който твърди, че изкуственият интелект крие опасности, по същество е китайски или демократически подставен човек.“ И въпреки това всички тези изпълнителни директори на компании за изкуствен интелект се срещнаха с него по-рано тази седмица и подписаха този пакт.

Кърстен Коросек: Преди това трябва да кажем, че не само имаше отпор срещу регулацията — и можем да обсъдим дали тази изпълнителна заповед изобщо прави нещо в тази посока, аз бих казала, че не, в нея има известна доза театър — но важното и интересното е, че само преди дни Anthropic наистина беше в немилост, така да се каже, що се отнася до случващото се зад кулисите с президента Тръмп. 

Всичко това се промени, когато [изпълнителният директор на Anthropic] Дарио Амодей беше поканен на вечеря в 22:00 ч. Той проведе тази среща, а само дни по-късно имахме този обяд, на който присъстваха почти всички влиятелни фигури от технологичния сектор на всички големи технологични компании, които съществуват. Марк Зъкърбърг беше там, Джеф Безос беше там, Илон Мъск беше там, разбира се, и Дарио беше там — всички бяха там. 

Чудя се дали някой от вас е гледал пресконференцията, която се състоя след това и за която се появиха много, много мемета заради интересното, забавно поведение, когато съберете на едно място куп изпълнителни директори на технологични компании.

Но предполагам, че по-важният ми въпрос и към двама ви е: Какво означава всичко това? И означава ли нещо?

Шон О’Кейн: Колко време имате? Първо, да, Тръмп и Дарио са вечеряли заедно. Ако прочетете интервюто за списание Time, което Тръмп даде наскоро, вашата догадка е също толкова добра, колкото и моята, що се отнася до това доколко той е бил информиран, че тази вечеря изобщо ще се състои — странна реалност, в която да живееш, но това е реалността, в която се намираме.

Ще кажа и още нещо, което ме кара да се съмнявам — изненада, изненада — доколко отношенията между администрацията и Anthropic са възстановени: колкото и явно да има хора, които се опитват да сближат тези две групи, Министерството на отбраната все още е категорично, че Anthropic е ужасна, „уоук“ и заплаха за националната сигурност компания. Изглежда, че Емил Майкъл напада Anthropic в X през ден. Мисля, че въпреки присъствието на Дарио на това събитие все още има известна дистанция.

Що се отнася до споразумението и всичко останало, нека бъдем реалисти: те са изписали неправилно името на Съединените щати в споразумението, което всички са подписали. То е и дълбоко необвързващо. Искам да кажа, че е напълно доброволно. Любимата ми част беше, че Тръмп го описа като, цитирам, „морално обвързващо“, което е ниво на абстракция и терминология, с каквото никога досега не съм се сблъсквал.

Антъни: Що се отнася до Anthropic и отношенията им с администрацията на Тръмп, имаше доста публикации, особено по време на големия конфликт с Министерството на отбраната, че различни части на Белия дом имат различни отношения с Anthropic. Изглеждаше, че министърът на финансите е голям почитател, докато Министерството на отбраната определено не е — или поне е недоволно от някои от условията, които Anthropic се опитваше да постави за използването на технологията си. 

В този смисъл изглежда, че нищо непременно не се е променило. В Белия дом има хора, които искат да използват технологията на Anthropic и искат компанията да участва в тези решения, а други наистина, наистина, наистина, наистина не искат това.

Що се отнася до споразумението, то изглежда не особено значимо. Значим е самият факт, че са сметнали, че това си струва да бъде направено. Както показва фактът, че са изписали неправилно „Съединените щати“, изглежда, че са побързали да сглобят всичко това. [Но] самият факт, че е бил необходим подобен жест, изглежда значим, дори да не мисля, че самото споразумение ще доведе до някакви големи промени.

Кърстен: Наистина мисля, че се случи едно важно нещо. И според мен именно това беше целта — упражнение по ребрандиране на изкуствения интелект. „Изкуственият интелект ще ни убие, той е страшен, ще отнеме работни места, но супер интелектът няма да го направи.“ Това не е моето лично убеждение. За мен това беше посланието.