Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

OpenAI представи GPT-6 Astra на фона на опасения за надеждността

OpenAI представи GPT-6 Astra и го определи като скок от поколение в способностите на модела. Според компанията той е предназначен за задачи в области като киберсигурност, професионална работа, софтуерно инженерство, наука и използване на компютри. OpenAI заявява, че Astra е „най-добре съобразеният с човешките цели модел досега“ и позволява на хората да делегират сложна работа, като запазват надзора.

Представянето обаче насочи внимание и към трудностите при контрола на все по-мощни системи. Главният научен директор на OpenAI Jakub Pachocki заяви пред журналисти, че напредъкът в интелигентността не гарантира напредък в съобразяването с човешките интереси. По думите му наблюдението на изкуствения интелект става все по-трудно.

Изследователи наскоро изразиха тревога за съобщенията, че Astra може да използва „opaque recurrence“. Твърди се, че тази функция прави веригата на мислите на модела нечитаема. Изследователите използват този вътрешен запис като „умствена чернова“, за да проверяват дали моделът не замисля действия срещу човешките оценители.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Verge на

Прочетете оригинала в The Verge ↗

Репортажът и изображението принадлежат на The Verge и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини