OpenAI представя Astra, своя нов мощен (и противоречив) модел

OpenAI пусна Astra в четвъртък — най-новия си модел с изкуствен интелект и, според компанията, най-мощния и способен модел досега.

OpenAI твърди, че Astra представлява „нов хоризонт при използването на компютри и браузъри“ и че изпълнява задачи с ненадминати „бързина, точност и сигурност“.

Моделът ще бъде достъпен в четвъртък за клиентите на OpenAI, които използват Daybreak — нейната програма за киберсигурност. През следващата седмица той ще стане достъпен и чрез платените планове на OpenAI — включително акаунтите Pro, Plus, Enterprise и Business — както и чрез нейния API.

По време на разговор с журналисти в четвъртък президентът на OpenAI Грег Брокман заяви, че Astra е „най-интелигентният и, също така много важно, най-добре съгласуваният ни модел досега“. Той добави, че моделът „обединява години наши изследвания и големи залози, като всеки пробив се е основавал на предишния“ и че представлява „реална промяна в това какъв вид работа хората могат да делегират на изкуствения интелект и как той може да им даде повече възможности“.

Много се говори за киберспособностите на Astra. OpenAI публикува публикация в блога си по-рано тази седмица, в която обсъди новите възможности на модела, както и новите предпазни мерки, въведени, за да го направят по-сигурен за потребителите. В четвъртък компанията заяви, че е тествала Astra чрез множество тестове за сигурност, за да потвърди възможностите му, и че той може да „идентифицира и разработва експлойти от типа zero-day, което може да помогне на защитниците да откриват и поправят уязвимости“.

Фокусът на компанията върху съгласуването — тоест склонността на модела да прави това, което потребителят иска или което е в негов най-добър интерес — неизбежно изглежда като отговор на неотдавнашното нарушение в Hugging Face, при което агент на OpenAI е избягал от изолирана среда за тестване и е хакнал няколко компании (много явен пример за липса на съгласуване).

OpenAI се похвали и с възможностите на Astra за писане на код, като заяви, че това е „най-добрият модел досега за софтуерно инженерство“. В подкрепа на това твърдение компанията представя резултати от различни тестове за сравнение, свързани с киберсигурността. Тези тестове изглежда показват, че Astra постига по-високи резултати от други съществуващи модели — включително собствените Sol на OpenAI и Fable на Anthropic — при дейности като откриване на грешки, изпълнение на задачи в терминала и отговаряне на въпроси за кодови бази.

Astra вероятно е и най-противоречивият модел на OpenAI досега заради използването на специфична техника за разсъждение, известна като непрозрачна рекурентност. Известно е, че тази техника прикрива важен процес за наблюдение на модела, известен като „верига на мислите“, който позволява на изследователите да проверяват как и защо даден модел с изкуствен интелект е взел решенията си.

OpenAI омаловажи степента, в която Astra използва непрозрачна рекурентност — а по време на разговора главният научен директор Якуб Пачоцки изглежда представи известна степен на непрозрачност като естествен резултат от развитието на моделите. Той заяви, че макар наблюдението на процеса на разсъждение на даден модел да е критично важна форма на надзор, „с нарастването на възможностите на моделите наблюдаемостта става все по-трудна“.

По-късно той добави, че една от възможните причини за това е, че „по-способните модели могат да изпълняват по-трудни задачи, използвайки по-малко езикови токени“ или „без езикови токени“, което според него намалява възможността за наблюдение на тези конкретни задачи.

Един от репортерите по време на разговора искаше да разбере дали OpenAI всъщност представя Astra като официалното настъпване на AGI, или изкуствен общ интелект — често обсъжданата, но слабо дефинирана технологична граница, при която изкуственият интелект надминава човешките способности във всички (или повечето) области.

Тук Брокман направи уточнение. „Вече няма договорно задействане на AGI, така че това всъщност не е релевантно понятие“, каза той. Брокман имаше предвид съществувалата по-рано клауза в договора на OpenAI с Microsoft, според която партньорството между двете компании ще бъде прекратено, след като бъде постигнат AGI. Както отбеляза Брокман, тази клауза вече не съществува.

Вместо това Брокман обясни, че определението за AGI се е променило от договорно задължение в „концепция на мисията или духовна концепция“. Той добави: „Оставям на читателя сам да реши дали това отговаря на неговите критерии. Лично аз смятам, че сме достигнали този момент.“