Главният изпълнителен директор на Anthropic представи план за „задаване на темпото на развитие на авангардните технологии“

Все по-често чуваме мрачни предупреждения от изследователи на изкуствения интелект за опасностите от изкуствения интелект, както и дори коментари от главния изпълнителен директор на OpenAI Сам Алтман, че може би е време да „забавим темпото“ на развитието на ИИ. Но как би изглеждало това на практика?

В нова публикация в блога си главният изпълнителен директор на Anthropic Дарио Амодей не само повтори призива да „забавим темпото на развитието“, но и очерта три общи стратегии за това. Той заяви и че Anthropic „едностранно се ангажира“ с една от тях.

Дебатът за безопасността и съгласуването на ИИ се изостри тази седмица, след като изследователят Джейкъб Коксън написа, че напуска Anthropic заради опасенията, че водещите компании за ИИ „рискуват живота ни“, докато хората, изграждащи технологията, „искрено вярват, че тя може да ни избие до края на десетилетието“ — твърдение, повторено и от други служители на Anthropic.

Публикацията на Амодей не споменаваше изрично оставката на Коксън или неговите опасения, но главният изпълнителен директор написа, че две неща са го убедили, че е време да се възприеме по-предпазлив подход към развитието на ИИ: хакването на OpenAI-HuggingFace и фактът, че „ИИ напредва драстично по-бързо“ през последните месеци, особено с оглед на „нарастващата му способност да създава следващото поколение ИИ“.

„Трябва да забавим темпото, с което подобряваме възможностите на моделите за ИИ“, написа Амодей. „Напредъкът все още ще изглежда бърз и трябва да използваме разумно времето, което печелим.“

Първата предложена от него стъпка би включвала „вградени оценители“ от независими организации като METR — оценители, които могат да проверяват дали компаниите за ИИ действително спазват ангажиментите си за забавяне на темпото и безопасност, както и да гарантират, че инцидентите, свързани с безопасността, се докладват. (Наскоро OpenAI беше критикувана, че не е докладвала за инцидент, при който нейни ИИ агенти са поели контрола над формуляр в германска уики.) 

Амодей сравни тези оценители с регулаторите, които са били интегрирани в екипите на банкови служители, и заяви, че поканата към тях да се присъединят е „нещо, с което Anthropic едностранно се ангажира (и призовава правителствата да изискат същото от останалите водещи компании)“. Това означава да се предоставят на оценителите служебни карти, бюра и лаптопи, както и достъп, „до голяма степен сравним с този, който имат вътрешните екипи за оценка на риска“, с изключенията, изисквани от закона или договорите.

След това Амодей призова водещите компании за ИИ „в рамките на демократичните държави“ да координират „общи стандарти за безопасност, както и ограничения върху темпото на неконтролирания напредък на ИИ“. 

Подобна координация може да изглежда малко вероятна както заради явната неприязън между Алтман и Амодей, така и защото според съобщенията компаниите им се опасяват, че коордирана пауза може да доведе до антитръстова проверка. Амодей намекна за това опасение в публикацията си, като написа, че „по антитръстови причини е полезно правителството на САЩ да посредничи или поне да даде възможност за тези обсъждания — не е необходимо да участва, но трябва да издаде ограничено освобождаване за определени видове разговори, свързани с безопасността“.

Амодей призна и за призрака на китайското господство в областта на ИИ, който често се посочва като аргумент срещу забавянето на развитието. Но той заяви, че ако правителството на САЩ и технологичните компании предприемат мерки като отказ да продават мощни чипове или оборудване за производство на полупроводници на китайски компании, както и затегнат мерките срещу дестилацията на модели, те биха могли да „забавят развитието на Китай достатъчно, за да увеличат значително преднината на Америка през следващите 3–5 години“.

Накрая Амодей призова за „глобална координация“, при която Съединените щати и съюзниците им „се опитват да координират действията си с авторитарните правителства, доколкото това е възможно“. Амодей заяви, че това би означавало „сътрудничество с Китай“, и призна, че има „явни ограничения върху постижимото“, но все пак предположи, че може да има възможности за споразумение, дори ако става дума само за „забрана на определени тесни и очевидно опасни употреби на ИИ, като например използването му за производството на биологични оръжия или позволяването на потребителите да правят това“.

Предвид готовността на Амодей в миналото да признава потенциалните опасности на ИИ и относителната отвореност на компанията към определени форми на регулация, някои привърженици на ИИ вече го критикуват като алармист, чиито коментари са допринесли за настоящата негативна реакция срещу ИИ. В отговор Амодей заяви, че се е опитал да предложи „балансирана“ перспектива“ и аргументира, че негативната реакция е „в основата си криза на доверието“, тъй като хората са започнали да се отнасят скептично към технологичните компании, технологичната индустрия и правителството.

Критиците на индустрията също са скептични към тези апокалиптични предупреждения за ИИ, като предполагат, че те отвличат вниманието от вредите, които технологията вече причинява.

Журналистът Брайън Мърчант например пише, че все още не е видял „достоверна, стъпка по стъпка документация за това как точно ИИ може да премине от саморекурсивно усъвършенстващ се ИИ до избиването на всеки един човек на планетата“; той също така предположи, че предложения като това на Амодей „вероятно в крайна сметка ще обслужват единствено Anthropic и OpenAI; така изглежда регулаторното завладяване на практика“.

В новата си публикация Амодей написа, че продължава „да вярва, че ИИ може значително да подобри качеството на човешкия живот“.

„Желанието ми да постигна тези ползи не е отслабнало“, заяви той. „Но ползите ще бъдат постигнати само ако изградим технологията по правилния начин и — стига да използваме добре времето, което печелим — си струва да положим необичайно целенасочени усилия, за да го направим както трябва.“