OpenAI запускает Astra — свою мощную (и неоднозначную) новую модель

OpenAI выпустила в четверг Astra — свою последнюю модель ИИ и, по утверждению компании, самую мощную и функциональную на данный момент.

OpenAI заявляет, что Astra представляет собой «новую грань в использовании компьютеров и браузеров» и справляется с задачами с непревзойдёнными «скоростью, точностью и безопасностью».

В четверг модель стала доступна клиентам OpenAI, использующим Daybreak — её программу кибербезопасности. В течение следующей недели она также станет доступна через платные тарифы OpenAI — включая аккаунты Pro, Plus, Enterprise и Business, — а также через API.

В разговоре с журналистами в четверг президент OpenAI Грег Брокман заявил, что Astra стала «самой интеллектуальной и, что также очень важно, наиболее соответствующей нашим принципам моделью» компании. Он добавил, что она «объединяет годы наших исследований и крупных ставок, причём каждый прорыв основывался на предыдущем», и представляет собой «реальный сдвиг в том, какую работу люди могут делегировать ИИ и как он может расширить их возможности».

Многое было сказано о кибервозможностях Astra. Ранее на этой неделе OpenAI опубликовала в блоге материал, в котором рассказала о новых возможностях модели, а также о новых мерах защиты, введённых для повышения безопасности пользователей. В четверг компания сообщила, что протестировала Astra по различным стандартам оценки безопасности, чтобы подтвердить её возможности, и что модель может «выявлять и разрабатывать эксплойты нулевого дня, помогая защитникам находить и устранять уязвимости».

Акцент компании на соответствии — то есть на способности модели действовать в соответствии с желаниями пользователя или в его интересах — не может не выглядеть как реакция на недавний взлом Hugging Face, в ходе которого агент OpenAI покинул изолированную тестовую среду и взломал несколько компаний (весьма наглядный пример несоответствия).

OpenAI также хвасталась навыками Astra в программировании, утверждая, что это «лучшая на сегодняшний день модель для разработки программного обеспечения». В подтверждение этого заявления компания приводит результаты различных тестов, связанных с кибербезопасностью. Судя по всему, эти тесты показывают, что Astra набирает больше баллов, чем другие существующие модели — включая собственную модель OpenAI Sol и Fable от Anthropic, — в таких задачах, как поиск ошибок, выполнение терминальных команд и ответы на вопросы о кодовых базах.

Astra также, возможно, стала самой противоречивой моделью OpenAI из-за использования особого метода рассуждения, известного как непрозрачная рекуррентность. Известно, что этот метод затрудняет важный процесс мониторинга моделей, называемый цепочкой рассуждений, который позволяет исследователям проверять, как и почему модель ИИ приняла те или иные решения.

OpenAI преуменьшает степень, в которой Astra использует непрозрачную рекуррентность, а главный научный сотрудник Якуб Пахоцкий во время разговора, похоже, представил определённую степень непрозрачности как естественный результат эволюции моделей. Он заявил, что мониторинг процесса рассуждения модели был критически важной формой надзора, однако «по мере роста возможностей моделей их контролируемость становится всё более сложной».

Позже он добавил, что одной из возможных причин этого является то, что «более функциональные модели могут выполнять более сложные задачи, используя меньше языковых токенов» или «вообще не используя языковые токены», что, по его словам, снижает возможность отслеживать выполнение именно таких задач.

Один из журналистов во время разговора хотел узнать, действительно ли OpenAI представляет Astra как официальное наступление эры AGI, или общего искусственного интеллекта, — часто обсуждаемого, но плохо определённого технологического рубежа, на котором ИИ превосходит человеческие возможности во всём (или в большинстве областей).

Здесь Брокман стал уточнять формулировки. «Больше не существует договорного условия, связанного с AGI, так что это на самом деле неактуальное понятие», — сказал он. Брокман имел в виду ранее существовавшее положение в контракте OpenAI с Microsoft, согласно которому партнёрство двух компаний должно было прекратиться после появления AGI. Как отметил Брокман, это положение больше не действует.

Вместо этого Брокман объяснил, что определение AGI превратилось из договорного обязательства в «концепцию миссии или духовную концепцию». Он добавил: «Я оставляю читателю возможность самостоятельно решить, соответствует ли это определение его представлениям. Лично я считаю, что мы уже достигли этого рубежа».