OpenAI представи GPT-6 Astra на фона на опасения за надеждността
OpenAI представи GPT-6 Astra и го определи като скок от поколение в способностите на модела. Според компанията той е предназначен за задачи в области като киберсигурност, професионална работа, софтуерно инженерство, наука и използване на компютри. OpenAI заявява, че Astra е „най-добре съобразеният с човешките цели модел досега“ и позволява на хората да делегират сложна работа, като запазват надзора.
Представянето обаче насочи внимание и към трудностите при контрола на все по-мощни системи. Главният научен директор на OpenAI Jakub Pachocki заяви пред журналисти, че напредъкът в интелигентността не гарантира напредък в съобразяването с човешките интереси. По думите му наблюдението на изкуствения интелект става все по-трудно.
Изследователи наскоро изразиха тревога за съобщенията, че Astra може да използва „opaque recurrence“. Твърди се, че тази функция прави веригата на мислите на модела нечитаема. Изследователите използват този вътрешен запис като „умствена чернова“, за да проверяват дали моделът не замисля действия срещу човешките оценители.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.