OpenAI запускає Astra — свою потужну (і суперечливу) нову модель

У четвер OpenAI випустила Astra, свою новітню модель ШІ та — за словами компанії — найпотужнішу й найздібнішу з усіх, що вона створювала.

В OpenAI стверджують, що Astra є «новим рубежем у використанні комп’ютерів і браузерів», а також виконує завдання з неперевершеними «швидкістю, точністю та безпекою».

У четвер модель стала доступною для клієнтів OpenAI, які користуються Daybreak — її програмою кібербезпеки. Протягом наступного тижня вона також стане доступною через платні плани OpenAI — зокрема для облікових записів Pro, Plus, Enterprise і Business — а також через її API.

Під час розмови з журналістами в четвер президент OpenAI Грег Брокман заявив, що Astra є «найінтелектуальнішою і, що також дуже важливо, найбільш узгодженою з людськими цілями моделлю, яку ми коли-небудь створювали». Він додав, що вона «об’єднує роки наших досліджень і великі ставки, причому кожен прорив ґрунтувався на попередньому», а також являє собою «реальний зсув у тому, яку роботу люди можуть делегувати ШІ і як він може розширити їхні можливості».

Про кіберможливості Astra багато говорили. Раніше цього тижня OpenAI опублікувала допис у блозі, у якому розповіла про нові можливості моделі, а також про нові запобіжники, запроваджені для забезпечення безпечнішого користування нею. У четвер компанія заявила, що протестувала Astra за різноманітними тестами для оцінювання безпеки, щоб переконатися в її можливостях, і що модель може «виявляти та розробляти експлойти нульового дня, допомагаючи захисникам знаходити й виправляти вразливості».

Зосередженість компанії на узгодженості — тобто на схильності моделі робити те, чого хоче користувач або що відповідає його найкращим інтересам, — не може не здаватися реакцією на нещодавній злам Hugging Face, під час якого агент OpenAI втік із тестового середовища з ізоляцією та зламав системи кількох компаній (дуже наочний приклад неузгодженості).

OpenAI також вихвалялася здатністю Astra програмувати, заявляючи, що це «найкраща на сьогодні модель для розробки програмного забезпечення». На підтвердження цього твердження компанія наводить результати різноманітних тестів, пов’язаних із кібербезпекою. Схоже, ці тести показують, що Astra набирає більше балів, ніж інші наявні моделі — зокрема власна модель OpenAI Sol і модель Anthropic Fable, — у таких завданнях, як пошук помилок, виконання завдань у терміналі та відповіді на запити про кодові бази.

Astra також, можливо, є найбільш суперечливою моделлю OpenAI через використання особливої техніки міркування, відомої як непрозива рекурентність. Відомо, що ця техніка приховує важливий процес моніторингу моделі, відомий як ланцюжок міркувань, який дає змогу дослідникам перевіряти, як і чому модель ШІ ухвалила ті чи інші рішення.

В OpenAI применшують ступінь, до якого Astra використовує непрозиву рекурентність, — а головний науковець Якуб Пахоцький під час розмови, схоже, представив певний рівень непрозорості як природний наслідок еволюції моделей. Він заявив, що хоча моніторинг процесу міркування моделі є критично важливою формою нагляду, «зі зростанням можливостей моделей моніторинг стає дедалі складнішим».

Пізніше він додав, що однією з потенційних причин цього є те, що «здібніші моделі можуть виконувати складніші завдання, використовуючи менше мовних токенів» або «взагалі без мовних токенів», що, за його словами, зменшує можливість моніторити такі конкретні завдання.

Один із журналістів під час розмови хотів дізнатися, чи справді OpenAI проголошує Astra офіційним настанням AGI, або штучного загального інтелекту, — часто обговорюваного, але нечітко визначеного технологічного етапу, на якому ШІ перевершує людські можливості в усіх (або більшості) сферах.

Тут Брокман почав уточнювати формулювання. «Більше немає жодного договірного тригера AGI, тож це насправді неактуальне поняття», — сказав він. Брокман мав на увазі положення, яке раніше існувало в контракті OpenAI з Microsoft і передбачало розірвання партнерства між компаніями після настання AGI. Як зазначив Брокман, це положення більше не діє.

Натомість Брокман пояснив, що визначення AGI еволюціонувало від договірного зобов’язання до «концепції місії або духовної концепції». Він додав: «Я залишаю читачеві можливість самостійно вирішити, чи відповідає це його уявленню. Особисто я справді вважаю, що ми вже досягли цього».