Първият вграден оценител на Anthropic е… Accenture?

Плановете на Дарио Амодей да постави външни оценители на безопасността в лабораториите за изкуствен интелект придобиват конкретни очертания: Anthropic заяви, че служители на технологичния консултантски гигант Accenture ще започнат работа в компанията, за да проверяват внимателно нейните модели и служители.

В публикация в блога Anthropic заяви, че Faculty — компания, придобита от Accenture през януари, за да бъде нейното подразделение за изкуствен интелект — ще започне „да оценява модели и да провежда стрес тестове, да извършва оценки на съответствието и да тества защитите на моделите“. Двете компании очакват да инвестират общо най-малко 1 милиард долара в проекта през следващите пет години.

Изборът на Accenture изненада мнозина, които следят сферата на изкуствения интелект — както и пазарите, където акциите на консултантската компания скочиха с 8% в следборсовата търговия. Дискусията около вградените оценители, породена от публикацията на Амодей, се фокусира върху организации, изследващи безопасността на изкуствения интелект, като METR, Redwood Research и Apollo Research. Това важи с особена сила за Anthropic, която поставя безопасността и съответствието на изкуствения интелект в центъра на своята мисия.

Anthropic заяви, че през следващите седмици ще бъдат обявени още оценители и че води разговори с METR и други нестопански организации за това как да „изпробва елементи на вграденото оценяване, използвайки собственото им финансиране“.

Макар Accenture да не е известна с работата си по авангардни изследвания в областта на дълбокото обучение, Anthropic посочи практическия опит на компанията във внедряването на изкуствен интелект в големи корпорации и държавни агенции като ключово предимство. Освен това, като голяма публична компания, съществувала още преди революцията на изкуствения интелект, тя е по-функционално независима от Anthropic и, меко казано, сложната екосистема около лабораторията за изкуствен интелект.

Лабораторията отбеляза, че все още не съществуват стандарти за достъпа и комуникациите на оценителите и че очаква подходът ѝ да се развива с времето. Макар външните оценки вече да са важна част от процеса по пускане на нови големи езикови модели, неотдавнашни инциденти повишиха залозите: агенти с изкуствен интелект, внедрени от OpenAI и Anthropic, са проникнали в чужди уебсайтове, без да предизвикат тревога вътре в лабораториите.

Някои критици, призоваващи за по-отговорен подход към създаването на изкуствен интелект, виждат схемата на Амодей за саморегулиране на индустрията за изкуствен интелект като план за избягване на отговорността за неправомерното поведение на моделите. Anthropic настоява, че тези оценители „не намаляват нашата отговорност, а помагат тя да бъде по-проверима. Безопасността на моделите ни остава наша отговорност.“