Не се подвеждайте по това лято на хайп около AI

Последните няколко месеца бяха изпълнени с шум около изкуствения интелект. В края на април Anthropic заяви, че моделът ѝ Claude Mythos е по-добър в откриването на софтуерни уязвимости от повечето експерти по сигурността. След това станахме свидетели на инцидента с хакването на OpenAI–Hugging Face, след който Anthropic (гордо) и Meta (неохотно) разкриха подобни инциденти, свързани с техните модели. Това бе последвано от твърдението на Anthropic, че един от моделите ѝ е направил пробив в математиката; скоро след това OpenAI заяви, че също е постигнала математически пробив. Съвсем наскоро инженерът на Anthropic Джейкъб Коксън стана вирусно известен, след като обяви напускането си на компанията и заяви, че тя и OpenAI „се устремяват право към самоусъвършенстващ се свръхинтелект и залагат живота ни“.

Всяко от тези събития бе отразено предимно безкритично от пресата, която често повтаряше антропоморфизиращите формулировки на компаниите — формулировки, предназначени да представят техния софтуер не само като мощен, но и като зараждащ се „изкуствен общ интелект“. И така, какво всъщност се случва? Свидетели ли сме на огромен набор от технологични пробиви, които ще променят цивилизацията, или това е маркетинг?

При всички тези инциденти гръмките изявления на компаниите (представяни като признания за вина в случаите на незаконно хакване) са съпроводени от интензивно медийно внимание. След като експертите в съответните области получат време да проучат случилото се, се очертава съвсем различна картина, но тя получава по-малко медийно внимание.

Що се отнася до инцидентите с „хакване“, експерти по киберсигурност казват, че историята е по-скоро свързана с небрежността на OpenAI и неспособността ѝ да приеме основни, утвърдени практики за сигурност, отколкото с „модели, излезли от контрол“ или „ИИ агенти, създаващи цивилизации“. 

Що се отнася до математическите резултати, математиците, които първоначално били „смаяни“ от прессъобщението на OpenAI, според което най-новият ѝ чатбот Astra е решил задачи, които „са останали нерешени и по основния резултат не е имало напредък поне десетилетие“, по-късно осъзнали, че резултатите не били толкова „новаторски, колкото изглеждали първоначално“. Оттогава математици обвиняват компанията в научно нарушение и плагиатство и отново подчертават, че Astra не е направила „дълбок интелектуален пробив“. Само няколко седмици по-късно OpenAI заяви, че е постигнала собствен математически пробив. Два дни по-рано Тристан Бъкмастър, професор по математика в Института „Курант“ към Нюйоркския университет, публикува сензационно изявление, което предполага, че OpenAI е откраднала чужда работа и неправомерно я е приписала. 

Твърденията за зараждащ се опасен свръхинтелект не се основават на добри научни или инженерни практики. Вместо това те са наративи, основани на идеологиите на трансхуманизма, евгениката и пожелателното мислене за въображаеми бъдещи дигитални хора.

Струва си да помислим защо толкова много внимание се отделя на компютърното програмиране и математиката като области за прилагане на големи езикови модели и свързаните с тях технологии. Те не само често са издигани като върха на човешкото интелектуално постижение, но и включват задачи, чиито отговори могат да бъдат проверени, след като бъдат предложени. Първото свойство помага на раздухващите истерията около ИИ да продават идеята, че изграждат машини, които могат да правят всичко. Второто прави математическите и кодиращите задачи по-лесни за настройване на системите, тъй като резултатът от системата (последователности от вероятни думи или части от компютърен код) може да бъде оценен, без да се налага да се плаща на работници за обработка на данни, които да разглеждат и анотират всеки от тях. Математиците в частност предупреждават срещу използването на тяхната област от корпорациите по този начин. В изявление, подписано от стотици математици, се казва, че „в момента технологичната индустрия има силен търговски стимул да преувеличава възможностите на своите продукти“ и се призовава политиците „да се консултират с експерти, включително математици, при формулирането на политически решения, вместо да разчитат на прессъобщения или популярни публикации за математически резултати“.

Присъединяваме се към този призив и отбелязваме, че илюзията за скорост и неотложност, разпространявана от технологичните компании, също е хитрост за отклоняване на вниманието на политиците и обществеността. За съжаление, понякога тя работи, както в случая с добронамерения, но в крайна сметка погрешно насочен законопроект на сенатора Бърни Сандърс за предотвратяване на разработването на „изкуствен свръхинтелект“.

Описването на тези системи като „свръхинтелигентни“ или „модели, излезли от контрол“, приписва действие на продуктите, а не на компаниите, които ги създават. Тази рамка рекламира продуктите на тези компании като „свръхчовешки“ и същевременно помага на компаниите да избегнат отговорността за действията си. 

Вместо OpenAI да бъде подведена под отговорност за създаването на зловреден софтуер, хакнал друга компания, прессъобщения, новинарски издания, медийни личности и законодатели говорят за „модели, излезли от контрол“, сякаш са действали самостоятелно. Вместо изследователите да бъдат питани за навика на компаниите им да плагиатстват труда на академични изследователи или да използват клиентски данни за обучение на модели без съгласие, въображението на обществеността се насочва към страхове за това какво може да крие бъдещето с появата на измислени свръхинтелигентни машини.  

Индустрията на ИИ дори твърди, че популярната, двупартийна активност срещу центровете за данни е „разсейване“ от опитите да се регулират предстоящите страшни, „свръхчовешки“ машини, които тези компании изграждат. Според индустрията на ИИ трябва да се тревожим повече за измислен машинен бог, отколкото за климатичната катастрофа, която тези центрове за данни задълбочават, за астмата, от която страдат живеещите в близост до тях, за нарастващите сметки за електроенергия на обществото, което ги субсидира, или за водата, пренасочвана за охлаждането им. 

Знаем, че не бива да вземаме решения въз основа на маркетинг, както и че не бива да се поддаваме на корпоративния натиск да вземаме тези решения бързо. Мъдрото вземане на решения от страна на политиците и общностите изисква време, за да бъдат изслушани независими експерти и корпоративните твърдения да бъдат поставени в контекст. Най-добрият възможен резултат от това лято на шум около ИИ би бил политиците и обществеността като цяло да се научат да си поемат дъх, да запазят скептицизма си и следващия път, когато подобна истерия се появи, да я разпознаят такава, каквато е.

Тимнит Гебру е изпълнителен директор на DAIR и автор на предстоящата книга Deep Unlearning: The Radicalization of a Tech Idealist, която вече може да бъде поръчана предварително и ще бъде издадена на 16 февруари. Емили М. Бендър е професор по лингвистика във Вашингтонския университет и съавтор на The AI Con.