Кевин Руз е обсебен от AGI. А вие защо не сте?

Днес разговарям с Кевин Руз, журналист и автор на новата книга The AGI Chronicles, която описва неотдавнашната и експлозивна трансформация на индустрията за изкуствен интелект.

Кевин дълги години беше репортер на New York Times и водещ на популярния подкаст Hard Fork, но той и приятелят на предаването Кейси Нютън току-що напуснаха Times, за да започнат изцяло новия технологичен подкаст Machine Gods, който стартира миналата седмица.

С Кевин разговаряхме за стартирането на Machine Gods и за това какво е да преминеш от The New York Times към независимото създателство — а после, разбира се, говорихме и за книгата, която представлява великолепно проучено задълбочено потапяне в компаниите, състезаващи се да създадат изкуствен общ интелект.

Исках да разбера от Кевин какво е било да отразява всичко това, да се опита да разбере тези личности и този исторически момент, както и накъде върви всичко оттук нататък. Предупреждение: В края разговорът става доста философски, но мисля, че ще откриете, че този обмен на идеи си заслужава.

Добре: Кевин Руз за The AGI Chronicles, стартирането на Machine Gods и бъдещето на изкуствения интелект. Започваме.

Това интервю е леко редактирано за дължина и яснота.

Кевин Руз, вие сте авторът на The AGI Chronicles и съосновател и съводещ на новия подкаст Machine Gods. Добре дошли в Decoder.

Благодаря много, че ме поканихте.

Слушах първия епизод на Machine Gods и с Кейси обсъждате факта, че технически носите титлата главен изпълнителен директор.

Вярно е. Спечелих хвърлянето на монетата, а някой трябваше да заеме тази позиция. Когато създаваш компания, както направихме ние, трябва да посочиш някого като главен изпълнителен директор, предполагам, за да е ясно кого да извикат пред Конгреса, когато неизбежно избухне първият ни скандал. Така че това ще съм аз.

Забавно е, защото сте главен изпълнителен директор в Decoder. Това означава, че ще трябва да ви задам въпросите за Decoder .

[Смее се] Добре. Е, главен изпълнителен директор съм от около пет минути и честно казано през повечето дни забравям, че съм такъв.

Честно казано, това важи за повечето изпълнителни директори в предаването. Всички се държат така, сякаш са го правили само пет минути. Ще стигнем и до това.

Искам да поговорим за книгата ви. Тя се казва The AGI Chronicles. Това е щателно проучена книга за основните водещи лаборатории и за културната промяна, през която всички те са преминали, докато изкуственият интелект излезе на преден план и в много отношения се превърна в далеч по-комерсиален продукт.

Но нека започнем с Machine Gods. Дълго време бяхте журналист в The New York Times . Очевидно мисля, че аудиторията вероятно знае това, но с вас се познаваме отдавна. Ще кажа, че откакто ви познавам, желанието ви да станете ютюбър винаги е било на преден план. Все питахте: „Как да стигна дотам?“ А аз винаги ви казвах: „Бягайте, не го правете.“ Но вие го направихте.

Напуснахте The Times, стартирахте собствен подкаст с нашия приятел Кейси Нютън. Това е следващото поколение на изключително популярния подкаст Hard Fork, който беше великолепен. Радвам се за вас, но какво ви накара да направите тази крачка?

Да, вие се опитвахте да ме разубедите толкова дълго, колкото аз се опитвах да убедя себе си да го направя, и не успяхте, защото ето ме тук.

Да, провалих се. Напълно.

Не, вижте, мисля, че по много основателни причини медийните компании отдавна са малко предпазливи към това да заложат всичко на YouTube или на която и да е друга видеоплатформа. Онези, които са го направили, не непременно са излезли от това с добри впечатления, защото има много—

Да, те се пренасочват към видео, а обикновено и към смъртта си.

Да, пренасочвате се към видео или просто прахосвате куп пари за неща, които не се изплащат. Така че мисля, че има някои структурни икономически причини за това, но също така мисля, че няма много институции, които са подготвени да направят подобен дългосрочен залог.

От много години се опитвам да убедя хората в медиите да повярват в YouTube, както знаете. Вие се опитвате да ги откажете от YouTube, но аз просто мисля, че това очевидно е най-важната медийна платформа в света в момента. Това е място, където журналистиката исторически не е имала централна роля.

Ако разгледате YouTube като цяло и се опитате да прецените каква част от него е посветена на това, което вие или аз бихме сметнали за качествена журналистика, тя е нищожна част от цялата екосистема.

Така че част от моята мисия е просто да пробия в тази сфера и да разбера как да използвам YouTube и видеото като цяло по начин, който е устойчив от икономическа и творческа гледна точка. А после просто да експериментирам и да правя куп неща.

Това не е лице, което трябва да бъде в YouTube. Затова се надявам да привлека и други хора и да открия някои успешни формати. Но гледам какво е направил The Verge там. Гледам какво са направили хора като Джоана Стърн и MKBHD. За мен това е много вълнуващо и е пространство с далеч по-малка конкуренция в сравнение с текстовете или подкастите.

Machine Gods е подкаст, който правите в партньорство с NPR, за което искам да поговорим. Но възприемате ли го като продукт за YouTube?

Искаме той да е ориентиран първо към видеото. Това основно означава, че ще ни е грижа как изглежда в степен, в която невинаги ни е било грижа досега. Ще се опитаме да дадем на хората много причини да искат не само да слушат, но и да гледат.

Очевидно знаем, че има хора, които просто не харесват видеоподкастите, затова искаме да дадем на аудиоаудиторията нещо приятно. Но това е посоката, в която вървят нещата. Вече не можете да правите подкаст, без да добавите и видео. Затова ще се опитаме наистина да приемем тази промяна и да направим добра версия, толкова добра, колкото двама журналисти на средна възраст могат да постигнат в YouTube.

Истинското бъдеще на медиите е журналисти на средна възраст да се пренасочват към YouTube. И аз се чувствам по същия начин, защото сега правя повече видео и това е, което правим. Ще бъде страхотно.

Другата причина да напуснете и да направите това — и очевидно хората знаят, че и аз съм приятел с Кейси, а с вас двамата сме говорили за това отдавна — е, че историята с изкуствения интелект вече е тук. Има промяна на платформата. В света има нови компании, нови личности и нови идеи, за които да говорим. Забавното е, че в подобен контекст обикновено настъпва и промяна в медиите. Начинът, по който разказваме истории, или форматите, в които ги разказваме, обикновено се променят заедно с темата или технологията, за която говорим.

Тук YouTube изглежда като най-солидната медийна основа, която съществува. Това е платформата, която е най-много същата, въпреки че се променя, има YouTube Shorts и вече можете да тествате A/B всичко, включително собственото си лице. Но тя е най-малко променената. Instagram претърпя огромна промяна и изглежда, че това ще продължи.

Изглежда ли YouTube като най-стабилното място, върху което да изграждате, докато се опитвате да разказвате тези нови истории?

Така изглежда. Искам да кажа, че очевидно никога не трябва да слагате всички яйца в една кошница. Затова разпространяваме видеото и в Apple Podcasts, и в Spotify, и ще бъдем навсякъде. Но да, изглежда сравнително стабилно.

Въпросът, който винаги си задавам, е какво би било необходимо, за да бъде заменен YouTube? Много компании са се опитвали да го заменят, но за да направите това, не само трябва да създадете изживяване, което е по-добро за създателите и потребителите, но и да възпроизведете целия визуален корпус на човечеството. Ще трябва просто да съберете шест милиона видеа от водопроводчици, обясняващи как да поправите всеки отделен сифон, и да ги качите там. Това е изключително трудно за изместване. То е толкова дълбоко вкоренено у толкова много хора и просто мисля, че ще продължи да расте.

Ще стигнем до това, когато говорим за изкуствения интелект, но преди много време попитах главния изпълнителен директор на Google Сундар Пичай: „Какво ще направите, ако вече няма уебсайтове?“ А той каза нещо от рода на: „Е, имаме YouTube.“ И няма как да спорите с това. Наистина го имате. И той просто ще продължи да расте.

Кое е най-изненадващото нещо в преминаването от The New York Times към това, което бихте нарекли икономика на създателите?

Е, още сме съвсем в началото, но досега най-много ме изненадва колко много ми харесва цялата бизнес страна. В журналистиката винаги те учат да си стоиш в своята лента, а аз никога преди не бях управлявал бизнес. Кейси е управлявал бизнес. Знаех, че му харесва. Но за мен това са нови мускули и не всичко ми доставя удоволствие. Да преговарям за оферти за застраховка на покритието ни срещу искове за клевета не е нещо, към което изпитвам особен интерес. Но що се отнася до действителното управление на бизнес, в това да си основател има нещо.

Да, това е хубав момент. Забавно е, че в разговорите ми с вас, с Кейси и с Джоана, която също току-що напусна и започна собствен проект, тази тема често изниква. От моя гледна точка именно затова правя това от толкова време. Какво ще стане, ако спра да управлявам бизнеса? Това не изглежда като избор. Това е бъдещето на медиите — да поемеш контрола върху бизнеса си и върху аудиторията си. В това има нещо много силно.

Едно от нещата, за които искам да поговорим, а после определено искам да обсъдим подробно книгата, е аудиторията за отразяването на изкуствения интелект, защото я виждам по два начина. Има група хора, които създават тези неща, обожават ги и искат да консумират всичко. Има група хора, които наистина ги мразят и смятат, че всичко е измама.

А после има това, което бих нарекъл разрастваща се група по средата, където продуктите са станали по-полезни. Трябва да ги разглеждате и оценявате такива, каквито са. Преди няколко години не бяха особено полезни. Обещанията не съвпадаха с реалността, но сега всеки ден могат да правят още едно нещо, което преди не можеха. Дали това нещо е хакването на всички уебсайтове в света, ще оставим настрана, но изкуственият интелект може да прави неща, които преди не можеше, и аудиторията изглежда се променя.

Как мислите за аудиторията на Machine Gods и за начина, по който тя може да се разрасне или промени?

В момента просто опитваме различни неща, които според нас ще бъдат добри, и се надяваме да намерят естествената си аудитория. Но мисля, че сте прави, че аудиторията се променя. Известно време имаше голямо търсене на самозаблуда — хората да ви казват, че това не се случва, че не е нужно да му обръщате внимание, че е ужасно и вреди на околната среда.

В някои части на интернет това все още съществува. В YouTube все още има странно много такива настроения, а Reddit също е силно анти-ИИ. Но мисля, че повечето хора — или поне мнозинството — са се примирили с факта, че това няма да изчезне, или са развълнувани от него. Това е аудиторията, която търсим.

Не се опитваме да ви казваме, че изкуственият интелект е невероятен и че ще живеем в утопия под управлението на новия машинен режим. Не ви казваме и че всичко това е фалшиво, ужасно и ще изчезне от само себе си, така че няма нужда да го регулираме или да се тревожим за него. Фразата на Кейси за това е „реализъм за ИИ“. Той смята, че има голяма група хора, които просто са любопитни и заинтересовани, може би малко уплашени, но реакцията им към страха не е да заровят глави в пясъка, а да се опитат да разберат явлението.

Започнахме да усещаме това, докато правехме Hard Fork, когато правехме нещо, което просто не изглеждаше типично за нас. Можехме да направим урок за Claude Code, в който половин час изграждаме уебсайт, снимаме се и го качваме — и той се представяше чудесно. Така че хората очевидно бяха любопитни. Дори коментарите под видеата да бяха само от хора, които мразят изкуствения интелект, очевидно имаше голямо търсене от хора, които просто казваха: „Искам да разбера какво се случва.“

„Мразя, че не мога да спра да гледам това“ е истинска тема в отразяването на изкуствения интелект по най-различни причини.

Нека поговорим за книгата. Мисля, че тя ще рамкира много от останалите ми въпроси. Книгата е щателно проучена. Наистина е забавна за четене. А целта ѝ, както съм ви чувал да я описвате, е да разкаже историята на революцията в дълбокото обучение, защото всички тези хора си говорят само в Signal и чрез изключително детински туитове.

Разкажете ми за тази празнина, защото това е индустрия, обсебена от документирането на самата себе си за компютри и от това да бъде разбираема за компютрите, но изобщо не и за другите хора, което ми се струва лудост. Обяснете ми как сте проучвали книгата, защото изглежда, че дори да ги убедите да ви разкажат какво се е случило, е било тежка битка.

Да, така беше. По принцип причината да напиша това е, че се страхувах, че всичко ще изчезне. Аз съм любител на историята. Обичам да чета книги за братята Райт, за електрификацията на селските райони на Америка или за великите изобретателски моменти по време на компютърната революция. Напълно се прехласвам по такива неща.

Когато четете повече от тези книги, забелязвате, че всички те разчитат на множество съвременни бележки и доказателства — лабораторните записки на учените, разработвали атомната бомба, кореспонденцията между братята Райт и техните приятели и бизнес партньори — които са съхранени и архивирани.

Докато всекидневно отразявах изкуствения интелект, за мен беше ясно, че за това няма да има нищо дори отдалечено подобно, защото, първо, всички хора, които създават тези неща, работят за частни компании. Те не са държавни служители, които по закон са длъжни да съхраняват кореспонденцията си. И второ, съобщенията в Signal и Slack са настроени от адвокатите да се изтриват автоматично след определен период. Така че буквално щеше да се случи масово изчезване с всяка изминала година на тези, според мен, исторически важни артефакти, моменти и истории.

И трето, изследователите са прекалено заети, за да си водят бележки. Всички работят до изнемога, защото се опитват да създадат машинния бог. Затова си помислих като журналист, но още повече почти като историк — роля, която никога официално не съм изпълнявал, но смятам, че изпълнявах с тази книга: „Трябва просто да събера тези материали, защото имам привилегировано място на първия ред. Тези хора разговарят с мен. Познавам някои от тях, те ще седнат и ще ми разкажат историите си.“

Голяма част от работата беше при условие за анонимност, за да могат да бъдат защитени от последствията на разговора с мен. Но това беше опитът ми трескаво да събера всичко и да го поставя в архива, където бъдещите поколения да могат да го разглеждат.

Темата, която наистина изпъква, докато чета книгата, е моментът, в който AGI преминава от нещо, за което всички мечтаят, в нещо, което всички трябва да създадат. Оковите падат и те казват: „Трябва да направим това“, а после всички се втурват към него с максимална скорост.

Говорите конкретно за Google, където прозорецът на Овъртън се премести и изведнъж хората вътре в Google, които смятаха, че всичко това е несбъдната мечта и доста глупаво, започнаха да говорят за AGI. Този момент изглежда като най-важния момент в историята на изкуствения интелект, когато „Няма ли да е страхотно?“ се превръща в „По-добре да се движим възможно най-бързо“.

Разкажете малко за това, защото тази промяна вътре в компаниите сякаш не е достатъчно отразена.

Да, мисля, че сте напълно прави. Хората говорят и пишат за AGI — или за някакъв предшественик, който не се е наричал AGI, но е означавал същото — буквално от древността. А особено от 50-те години на миналия век, когато се ражда терминът „изкуствен интелект“, хората говорят за него. Алън Тюринг пише за мислеща машина, която може да прави всичко, което може човешкият мозък.

Така че тази концепция съществува отдавна, но на пазара или в изследователските лаборатории не е имало технология, която действително да може да прави това, което хората са искали — да приема информация, да се научава да разбира тази информация и след това да я използва, за да прави прогнози и да действа в света. Хората са опитвали много различни подходи, но никой не е работил особено добре.

Това, което наистина е трябвало да се случи, е да се появи трансформърът. Архитектурата, която Google разработи през 2017 г. и публикува, а след това представи, наред с други места, и на OpenAI, която взе идеята за трансформъра и я разви. Именно това е буквата T в ChatGPT днес. Но това беше—

Някъде служител на Google за връзки с обществеността току-що е изскочил от храст, за да ви връчи чек.

Те обичат тази реплика.

Обичат, когато я казвате. Толкова се радват.

Обичат я. По-малко им харесва, когато посочите, че макар да са го изобретили, те напълно са се провалили в превръщането му в продукт, докато OpenAI не го направи.

Но да, това беше мечта, към която нямаше какво да прикрепиш. Нямаше технология. После се появи големият езиков модел и изведнъж стана: „О, може би това е нещото, което може да се мащабира завинаги и да продължи да се подобрява с много порядъци.“ Това е моментът, в който лампичката светва в OpenAI, а по-късно и в Google: „Сега имаме инструмента, за да направим нещото, което винаги сме искали да направим.“

Имате една реплика, в която просто посочвате, че предсказването на следващия токен все още не се е провалило — то прави всички неща, които хората искат. Очевидно трябваше да разработим много технологии около него. Има механизми, които карат агентите да работят. Има обучение с подсилване. Има всякакви неща около него. Но основната технология се мащабира.

Причината да повдигам това е, че през 2023 и 2024 г. питах всеки човек от света на изкуствения интелект, който гостуваше в предаването или когото виждахме в The Verge , дали големите езикови модели могат да го направят. Могат ли да направят нещото, което искате от тях? Защото тогава не ми се струваше ясно, че могат.

Сега сме по-близо. Всички открито говорят за AGI. Наблюдаваме как Muse на Meta просто разхожда малкия си задник из интернет, когато си поиска. Смятате ли, че големите езикови модели могат да го направят? Мислите ли, че могат да стигнат дотам?

Мисля, че могат. Не съм сигурен, но досега са били изумително добри и ефективни. Ако се върнете назад и погледнете първите големи езикови модели, ще видите, че 99 процента от хората са смятали това за лудост и са мислели, че няма да се мащабира. Но то просто продължава да работи на всеки етап и при всеки порядък на мащабиране. Питвал съм хората какво в предсказването на следващия токен очевидно превъзхожда всичко, което е било преди него. Някои са ми казвали, че нещо подобно съществува и в човешкия мозък. Има цяла школа, която твърди, че случващото се в човешкия мозък по същество е предсказване на следващия токен в голям мащаб. Очевидно е по-сложно. Това не са точни копия едно на друго.

Но мисля, че това е фундаменталната загадка в сърцето на изкуствения интелект: защо предсказването на следващия токен е толкова забележително ефективно? Мисля, че не знаем. Донякъде смятам, че това е една от космическите загадки, но причината всичко това да работи е, че предсказването на следващия токен се оказва изключително, изключително добре обобщаващо.

Има един аспект, в който всички тези компании е трябвало да повярват в това. Дарио Амодей от Anthropic очевидно е написал своята статия, „Голямото петно изчислителна мощ“, в която казва, че просто можете да го направите. Просто можете да изсипете данни и изчислителна мощ в това и ще стигнем дотам. Всички останали е трябвало да бъдат убедени в това.

Какъв път извървяха компаниите за изкуствен интелект, за да се убедят в това, и сега всички ли са напълно убедени?

Не мисля, че всички са напълно убедени. Мисля, че степента на убеждението им е различна. Иля Суцкевер има една фраза — „Почувствайте AGI“ — която в миналото обикалял от етаж на етаж в OpenAI, скандирайки я и напомняйки на хората да почувстват AGI. Мисля, че лабораториите усещат AGI в различна степен. Anthropic очевидно е лабораторията, най-обсебена от AGI, а OpenAI е близо след нея.

А после е Google, който според мен винаги е имал проблеми с това да почувства AGI. Мисля, че има много причини за това, но е много забавно. Обичам този раздел от книгата, в който има вътрешна битка между бележки в Google. Те просто пишат във вътрешните си форуми, а служителите на Google обичат да създават манифести и после да се заяждат с манифестите на другите.

Така един изследовател пише бележка, озаглавена „Казвайте AGI“, за това как Google — ако иска да спечели в областта на изкуствения интелект, да привлече най-добрите технически таланти и да остане безопасен в разработването на ИИ — трябва да признае чрез употребата на термина AGI, че това, което създава, е повече от набор инструменти, които правят Gmail по-добър, документите по-добри и Google Photos по-добър в разпознаването на лицата на хората. Всичко това всъщност води към нещо като общ интелект на човешко ниво.

А после друг човек веднага пише бележка: „Не казвайте AGI, това е ужасен, ненаучен термин.“ Те продължават да спорят така известно време, а и днес ще забележите, че [главният изпълнителен директор на Google] Сундар Пичай не казва AGI.

Не, няма да го каже.

Демис Хасабис казва AGI. Сергей Брин казва AGI. Така че според мен в Google има фракции, които или все още смятат това за лудост и искат да говорят за тези неща като за тесни инструменти, или, според мен, има растяща и набираща сила фракция, която казва: „Не, не, не, ние създаваме AGI — или поне по-добре да казваме, че създаваме AGI, защото иначе всички наши най-добри хора ще отидат да работят за OpenAI или Anthropic.“

Мисля, че с вас имахме едно и също преживяване на Google I/O през май, когато гледахме как Демис Хасабис завърши цялата ключова презентация , като каза: „Намираме се в подножието на сингулярността.“ А после и двамата отидохме и интервюирахме Сундар и попитахме: „Какво означава това?“ А той каза: „Да, да, Демис. Готин човек.“

[Смее се] Питайте Демис.

Той беше нещо като: „Какъв странен тип е този човек, който строи машинния бог, докато аз ви разкажа за новите функции в Google Assistant.“

Тук има голямо разминаване, което може би обяснява всичко за Google в този момент. Причината да питам конкретно за този момент, когато всички някак осъзнават, че трябва да говорят за това, е, че OpenAI и Anthropic са създадени именно за тази цел. Те са изградени така, че да направят това възможно.

Но не са съгласни как трябва да работи. Видях ви на представянето на книгата ви в Ню Йорк и казахте, че сте можели да преименувате книгата си на „Майната му на този човек“, защото те наистина се мразят.

Вярно е.

И все пак изглежда, че имат абсолютно еднаква идея — че могат да стигнат дотам с тази технология. Търговските императиви на OpenAI и Anthropic са много различни от тези на Google. В момента, докато разговаряме, за мен не е ясно дали могат да стигнат до AGI, преди да им свършат парите, преди CoreWeave да се срине или преди балонът като цяло да стигне до някакво друго заключение за състоянието на икономиката.

Мислите ли, че религиозният им плам към AGI им пречи да управляват бизнес? Ако днес управлявах Anthropic, логично би било да кажа, че трябва да спрем да обучаваме нови модели и да продаваме на повече хора изключително способните модели, с които вече разполагаме.

Мисля, че вярата в AGI е нож с две остриета. От една страна, ако сте главен изпълнителен директор на водеща компания за изкуствен интелект и сте напълно обсебен от AGI, ще ви е трудно да се интересувате от неща като печалбата ми от изводи? Откъде ще дойде следващата ми група корпоративни клиенти? Защото колко скучно е това в сравнение с „ще създадем свръхчовешки машинен интелект, който ще ни поведе към бъдещето след сингулярността“?

От друга страна, мисля, че вярата всъщност е ключова съставка за успеха в изкуствения интелект, защото именно вярата и способността да действаш според нея те карат да направиш тези огромни залози, които могат наистина да се отплатят — и вече са се отплащали.

Спомняте ли си преди година, когато всички казваха: „Боже мой, OpenAI харчи толкова много пари за изчислителна мощ; как ще плати за всичко това? Нима Сам Алтман не се протяга прекалено?“ Дори Дарио даваше интервюта, в които критикуваше OpenAI, че харчи толкова адски много пари за изчислителна мощ.

Година по-късно OpenAI е единствената голяма компания за изкуствен интелект, която не е сериозно ограничена от недостиг на изчислителна мощ. Вярата, която накара Сам и ръководителите му да заложат — а може би да заложат прекалено много — на изчислителната мощ миналата година, е причината днес да са в по-добра позиция от Google, Anthropic, Meta или когото и да било друг. Така че не искам да кажа, че винаги е недостатък да вярваш толкова силно, защото според мен това действително ти позволява да направиш залозите, които в крайна сметка се изплащат, ако мащабирането продължи да работи.

Интересно е, защото може би бих преформулирал това решение на OpenAI. В книгата ви много трогателно пишете за това, което хората в OpenAI наричат „смущението“, когато Сам Алтман е уволнен за 20 минути, а после се връща и това изчиства голяма част от хората в OpenAI.

Това е моментът, който описвате в книгата — когато OpenAI преминава от изследователска компания към бизнес. Рационалното бизнес решение е: „Трябва да продаваме повече изкуствен интелект на хората. Трябва да имаме колкото се може повече от него.“ А Сам е известен като безмилостен бизнесмен. Чувал съм хора да го описват като човек от най-висок клас в набирането на средства, което е невероятна фраза от Силициевата долина.

Аз гледам на това като на бизнес решение. Те се отърваха от много от нещата, които правеха. Пренасочиха се към корпоративни продукти с изкуствен интелект, където са парите, а после осъзнаха, че трябва да обслужват това търсене. Вие казвате, че това е бил залог за AGI, което за мен е по-идеалистичен обрат. Как съчетавате тези две неща?

Да, мисля, че това определено е залог за AGI, защото Sora, която те пуснаха и за която похарчиха много пари и изчислителна мощ, а после убиха, е готина играчка, която може да открие нов бизнес за вас, но няма да ви доближи до AGI.

Това, което действително ви доближава до AGI, е да задействате рекурсивно самоусъвършенстване чрез създаването на наистина добри модели за програмиране, а след това да ги насочите обратно към самите тях. Това беше нещо, което Anthropic правеше. OpenAI се разсея от страничните задачи и лъскавите обекти, които имаше миналата година, и компанията започна да губи сериозно. Затова OpenAI реши да намали платната, да ореже излишъците и да се съсредоточи върху програмирането и агентните задачи с дълъг хоризонт. Към момента това е водещият път към AGI или към каквото и да дойде след AGI.

Така че да, мисля, че това определено беше залог за съхраняване на ресурсите, като не ги харчат за неща като Sora. Но това, за което ги похарчиха, беше опитът да настигнат Anthropic в програмирането, за да могат да достигнат AGI.

Когато гледам Дарио Амодей на Dreamforce до Марк Бениоф да говори за продажба на корпоративен софтуер, това само за пред хората ли е? Това се опитвам да съчетая — всички те са се превърнали в доставчици на корпоративен софтуер по най-реалния възможен начин. Те са B2B SaaS компании в най-реалния смисъл, но същевременно строят Бог. Вие познавате тези хора. Съвместими ли са тези неща? Те казват ли си: „Сега трябва да сваля шапката си на B2B SaaS и да се върна пред олтара“?

Мисля, че B2B SaaS е играта, която са осъзнали, че трябва да играят, но не мисля, че това е истинската страст на някого от тях. Говорих със Сам Алтман за книгата и едно от нещата, които каза, беше, че всичко това е било случайност: „Никога не е трябвало да управлявам гигантска технологична компания; това изобщо не беше част от плановете ми.“ Но после се събуждаш и имаш хиляди служители.

Дарио Амодей също има един много забавен, погледнат от днешна гледна точка, документ, който е написал през 2021 г., когато тъкмо започвали компанията. Казва се „Визия за NewCo“. Можете да се върнете назад и да видите прогнозите на Дарио за AGI. Една от тях е, че според него ще струва около 10 милиарда долара да се създаде пълноценен AGI, което според мен е било подценяване с поне един порядък, а вероятно и с няколко. Той също така смята, че Anthropic никога няма да има нужда от повече от около 50 души, за да постигне AGI. Сега мисля, че имат около 5000 души. Така че отново — грешка от сто пъти.

Така че мисля, че това, което се случи, е, че всичко просто отне малко повече време, отколкото всички са предполагали, и струва доста повече пари. Корпоративният SaaS е начинът да поддържате въртележката и да плащате за графичните процесори и заплатите на изследователите. Това е минималното условие, за да продължите да разширявате границите и да се движите към AGI.

Готови ли са да бъдат ръководители на компании с такъв мащаб? Това е още едно нещо, за което мислех, докато четях книгата ви. Всички те са много идеалистични хора — дотолкова, че са се отделили един от друг и са създали собствени компании, защото не са могли да съгласуват идеалите си.

Но никой от тях не изглежда като велик мениджър. Всъщност не знам какви са, но „те са идеалисти“ и „ще управляваме компания за корпоративен софтуер“ обикновено не се срещат в едно и също изречение. Смятате ли, че могат да понесат натиска?

Не, но не мисля, че някой може. Това, което се опитват да направят, никой не го е правил. Хората са създавали компании. Хората са изграждали компании бързо. Но никой не е преминавал от нулеви приходи към потенциално първично публично предлагане за 2 трилиона долара за пет години. Това никога не се е случвало. Така че, вижте, мисля, че те се опитват да построят самолета, докато той се носи към хоризонта на събитията, но се справят приблизително толкова добре, колкото би могъл всеки.

Не мисля, че би било добра идея да доведат професионален главен изпълнителен директор от Coca-Cola, който да управлява компанията. Просто всичко би се разпаднало, защото те са фанатици и мисионери. Всички са в това — не всички, вероятно има хора в отдела за продажби на SaaS, които просто са там заради заплатата — но много от ключовите хора в тези компании са обединени от убеждението, че създават [AGI].

Един човек — няма да кажа кой — от една от тези компании наскоро ми каза, че смята, че неговата компания може да е последната компания. Помислих си: „Последната компания, която ще се листне на борсата тази година? Какво имаш предвид?“ А той каза: „Не, мислим, че това може да е телеологичният край на капитализма и може никога повече да няма голяма компания, управлявана предимно от хора.“

Така че тези хора са странни, и са странни по обезпокоителен, но също така много интересен начин. Това се опитвах да направя с книгата. Не исках да ви казвам, че тези хора са ужасни или велики. Просто трябва да знаете кои са. Трябва да знаете, че всички се мразят. Трябва да знаете, че са особена порода мислители, за да разберете динамиката на надпреварата.

В една част от книгата говорите за хора, които се отделят от ефективнÐ