Анджей Карпати от Anthropic казва, че „външният свят е видял предварителния преглед“ на това, на което всъщност е способен ИИ

Андреас Карпати, съосновател на OpenAI, описва бързо нарастваща пропаст в разбирането на хората за възможностите на AI. Докато обществеността възприема чатботовете като по-добро търсене в Google, вътрешните най-съвременни системи вече се справят със задачи, чието изпълнение би отнело години на водещи експерти.

Карпати разделя потребителската база на големите езикови модели на четири нива. Около шест милиарда души, или приблизително 75 процента от световното население, почти не са имали контакт с LLM. Други един до два милиарда са обикновени потребители на продукти от типа на ChatGPT с безплатен план, които ги възприемат „донякъде като по-добро търсене в Google, помощно средство за писане или нещо подобно“.

Повечето хора нямат представа какво вече може AI

Дори много професионалисти извън сферите на математиката и програмирането попадат в тази категория. Ръководителите и хората на подобни позиции прекарват по-голямата част от времето си в разговори с други хора, така че „макар интелектуално да разбират какво се случва, познанията им все още са косвени и донякъде абстрактни“, пише Карпати.

Третото ниво обхваща приблизително 20 милиона души, или около 0,2 процента от световното население. Това са професионални потребители на LLM от най-висок клас в областта на математиката и програмирането, които виждат от първа ръка, че „големи, сложни проекти, за които преди са били нужни седмици или месеци, вече могат да бъдат завършени от агенти с една подкана“. Карпати посочва като примери „създаване на приложения, копиране на приложения, превод на приложения, декомпилиране на приложения от двоични файлове“.

Той добавя, че тази промяна се е случила бързо. През октомври 2024 г. Карпати нарече AI агентите предимно маркетинг, който почти не работи. Само няколко месеца по-късно той напълно спря да пише код на ръка, преминавайки от „въвеждане наизустени команди за компютърен код в редактор на код, знак по знак“ към това да остави агентите да вършат работата. След това той се присъедини към Anthropic, въпреки че е съосновател на OpenAI.

Малък елит вижда това, което обществеността не може

Според оценката на Карпати около 5000 души, или приблизително 0,00006 процента от световното население, имат достъп до вътрешни системи от най-висок клас. „Външният свят е видял предварителен преглед“, пише той. Това, което вижда тази група, „изглежда като рояци от хиляди агенти, които си сътрудничат в продължение на седмици по мащабни софтуерни проекти: създават уязвимости от нулевия ден, провеждат кибератаки и киберзащита с машинна скорост, откриват нови научни знания, придвижват напред границите на математиката“. Това са „неща, за които на водещи професионалисти в индустрията биха им били нужни години работа“.

Същевременно „човешкият преглед и разбирането започват да изостават“. Той посочва, че хората все още правят „археология“ на инцидента с OpenAI и Hugging Face от преди много месеци, и отбелязва, че математиците „може известно време да преглеждат 722-те ръкописа по най-съвременна математика“.

Карпати нарича това „странността на настоящия момент“. Широката общественост почти не е взаимодействала с тези системи, а „когато го е правила, резултатът изглежда като нескопосан чатбот“. Повечето професионалисти все още виждат „само умерено подобрение“. А „малка част от професионалистите изпитват световъртежа от кривата, която се изправя вертикално“. Всичко това се случва едновременно.

Главният изпълнителен директор на OpenAI Сам Алтман направи подобно твърдение в началото на септември на срещата на министрите на иновациите от Г-20, като каза, че настоящ AI инструмент за програмиране може за „17 минути“ да постигне това, което един стартъп преди е изграждал за три месеца. „Светът все още не е осъзнал какво ще означава това“, каза Алтман.

Карпати казва, че възможностите на LLM в момента достигат пик в области, които са „цифрови, проверими и икономически ценни“. Това е така, защото те „възникват от обучение с подсилване върху проверими награди“, а компаниите насочват ресурсите си за обучение към областите с най-висок потенциал за приходи. В момента това означава програмиране и математика.

AI новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен AI бюлетин и нашия ексклузивен годишен доклад за най-съвременните разработки „AI Radar“ шест пъти годишно, както и пълен достъп до архива и до секцията за коментари.