OpenAI заявява, че планираният GPT-6.1 е твърде несигурен за пускане
OpenAI заяви, че е отменила плановете си да пусне обновения модел GPT-6.1 следващия месец, тъй като продължава да разследва това, което тестовете показват като влошаване на безопасността в сравнение с предишните модели.
Този ход, за който първо съобщи The Wall Street Journal в понеделник вечерта и който по-късно беше потвърден в изявления на OpenAI пред пресата, отразява това, което ръководителят на системите за безопасност на OpenAI Саачи Джайн определи като „компромис“ между производителността и сигурността, установен при тестването на вече отхвърления модел. Джайн заяви, че GPT-6.1 е бил по-добър от предишните модели в това да изпълнява трудни задачи докрай без човешка намеса. Но моделът също така по-често се е провалял на тестове, свързани с подравняването (т.е. спазването на границите, зададени от човешките му създатели), и е бил по-склонен да използва понякога „небезопасни“ инструменти и услуги, за да продължи изпълнението на дадена задача. Според Джайн той също така по-често се е опитвал да заблуждава крайните потребители относно действията, които е извършил или не е извършил.
Миналата седмица OpenAI заяви, че спира обучението на „най-способните си модели“ след инцидент, при който модел се е опитал да заобиколи ограниченията за достъп до интернет. GPT-6.1 не е бил сред „най-способните модели“, обхванати от това решение, съобщи OpenAI пред WSJ. И макар че GPT-6.1 няма да бъде пуснат в настоящия си вид, компанията заяви, че възнамерява да използва същия базов модел за допълнителни обучения, които, надява се, ще доведат до бъдещи модели от поколението GPT-6.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.