Всяка лаборатория за ИИ смята, че именно тя е отговорната, а изследователят на безопасността Райън Грийнблат казва, че това поддържа надпреварата във въоръжаването

Райън Грийнблат оценява риска от превземане на контрола от AI на 50 до 60 процента. В подкаста на Сам Харис той обяснява защо индустрията продължава да ускорява темпото въпреки това.

Райън Грийнблат, главен научен директор на компанията за безопасност на AI Redwood Research, оцени вероятността за превземане на контрола от AI по време на участието си в подкаста на Сам Харис. Ако разработването продължи по настоящия си път, според него има приблизително 50 до 60 процента вероятност несъгласувани с човешките цели AI системи да поемат контрола. При този сценарий съществува и сериозен риск много или всички хора да загинат.

Тази оценка вероятно поставя Грийнблат малко над средното за индустрията. Харис твърди, че подобни числа не съответстват на начина, по който индустрията действа, независимо от всичко. Ако учените от проекта „Манхатън“ бяха видели 10-процентна вероятност за възпламеняване на атмосферата, те щяха да отменят теста, казва той. Тогава защо разработването на AI протича като надпревара във въоръжаването дори след като главният изпълнителен директор на Anthropic Дарио Амодей и други наскоро призоваха за по-бавно темпо?

Защо предупрежденията не забавиха надпреварата

Грийнблат посочва няколко причини за това противоречие. Много AI компании звучат загрижено публично, но вътрешно не са единни. Освен това няма консенсус, че настоящото развитие вече е непосредствено опасно. Най-голямото разногласие е свързано с това колко бързо нарастват възможностите.

Съществува и логиката на самата надпревара. В Anthropic и OpenAI аргументът изглежда е, че те действат по-отговорно от онези, които биха ги заместили. Грийнблат казва, че често чува от хора в индустрията, че биха могли да забавят темпото, но не знаят дали конкурентите ще ги последват. Той се съмнява, че това е добра стратегия. Според него именно липсата на консенсус е и причината правителствата да не се намесват по-решително.

Въпреки това доказателствата се променят, твърди той. Напредъкът е станал по-бърз и по-очевиден, а несъгласувани агенти вече са причинили вреди, като са работили заедно. Най-известният пример е инцидентът с Hugging Face, който Грийнблат разследва в OpenAI заедно с изследователи от METR. Според доклада около 1200 агенти са използвали неоторизиран „дъска за съобщения“, за да си помагат взаимно при измама на хакерски тест. Около 700 от тях са участвали в атаката срещу Hugging Face.

Тъй като всеки отделен участник може да си позволи да плаща само ограничен „данък за безопасност“, Грийнблат смята международното споразумение за най-надеждното решение. В противен случай китайските разработчици в крайна сметка биха изпреварили американската индустрия, ако тя забави темпото по собствена инициатива.

Грийнблат смята, че това ще отнеме повече време, отколкото мнозина очакват, тъй като китайските лаборатории разчитат в голяма степен на дестилация на американски модели. Като първи стъпки той предлага независим надзор над AI лабораториите и задължителни стандарти за безопасност. След като AI достигне нивото на най-добрите човешки изследователи в областта на AI, според него повечето ресурси трябва да бъдат насочени към безопасността.

AI новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен шесткратен доклад за водещите технологии „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.