Разработката на AI с помощта на AI тревожи изследователи

Anthropic използва изкуствен интелект за разработването на по-мощни системи с изкуствен интелект, сочи доклад на организацията за изследване на безопасността на AI METR. Документът е изготвен след 11-седмично проучване вътре в компанията и оценява нейния подход към изследванията и разработката на AI.

Според констатациите моделите на Anthropic се усъвършенстват приблизително два пъти по-бързо, отколкото преди година. Докладът не показва ясни признаци този темп да се забавя. За изследователите това е сред най-ясните досегашни доказателства, че използването на AI при разработката може да ускорява напредъка в сектора.

Докладът е публикуван в четвъртък. Проучването е отделно от друга програма, която предоставя на изследователи по безопасността достъп до системите на Anthropic, подобен на достъпа на служители. Тя е създадена след широко отразени хакерски инциденти през лятото. В материала е посочен главният изпълнителен директор на Anthropic Dario Amodei, но не са дадени допълнителни подробности за ролята му или за използваните методи.