Бил Гейтс призовава да се подготвим за 20 години „бурни“ сътресения заради ИИ

Днес разговарям с Бил Гейтс, съосновател и бивш главен изпълнителен директор на Microsoft и председател на фондация „Гейтс“.

Вероятно напоследък сте забелязали Бил по-често в новините — през последните няколко месеца той е в нещо като обиколка, откакто публикува есе в края на август, озаглавено „Бурната ера на изкуствения интелект настъпи. Изборите, които правим сега, са от решаващо значение.“

В текста си Гейтс засили реториката си около безопасността на изкуствения интелект, като написа, че „дори при най-добрите обстоятелства преходът към тази нова ера на изкуствения интелект ще бъде един от най-бурните периоди в човешката история“.

В последвалите интервюта Гейтс нарече изкуствения интелект „най-опасното нещо, до което хората някога са се доближавали“, а също така заяви, че той „кара ядрените оръжия да изглеждат като нищо“. Ясно е, че според него настоящата политическа реакция на Белия дом или липсата на координирани действия от страна на самата индустрия на изкуствения интелект не са достатъчни за противодействие на тази заплаха.

Затова исках да разбера: Бил Гейтс привърженик ли е на идеята за неизбежния крах заради изкуствения интелект? Имах и поредица от въпроси, произтичащи от аргументите му за ИИ. Как изобщо можем да се надяваме да контролираме изкуствения интелект и да го приведем в съответствие с човечеството, ако дори не можем да се съгласим какво представлява той и дали е съзнателен? Как технически бихме изградили решение на проблема с привеждането в съответствие, което да може да бъде наложено не само на модели със затворен код, но и на такива с отворен код?

Бил отдели голяма част от времето си, за да обсъди тези въпроси с нас, а полученият разговор е изключително просветляващ. Той смята, че трябва да се подготвим за приблизително две десетилетия на сътресения, предизвикани от изкуствения интелект, и казва, че този период може да бъде толкова болезнен, че да раздели обществото на две — между хората, които се чувстват комфортно, живеейки близо до технологичния фронтир, и онези, които го отхвърлят.

Говорихме също за последствията за труда, нихилизма на по-младите поколения спрямо технологичния прогрес и за това какво би трябвало да ни дава надежда за бъдещето. Това е задълбочен разговор.

Добре: Бил Гейтс, съоснователят и бивш главен изпълнителен директор на Microsoft. Да започваме.

Интервюто е леко редактирано за дължина и яснота.

Бил Гейтс, вие сте съосновател и бивш главен изпълнителен директор на Microsoft. Вие сте и председател на фондация „Гейтс“. Добре дошли в Decoder.

Благодаря.

Радвам се, че отново разговаряме. През годините сме разговаряли много пъти. Бих казал, че обстоятелствата около този разговор изглеждат много различни. Преди, когато разговаряхме, вие винаги бяхте много оптимистично настроен към технологиите и към това, което могат да донесат.

Преди няколко години имахте сериал в Netflix. Вие разговаряхте с The Verge, а аз искам просто да ви прочета този цитат. Казахте: „Вярвам, че изкуственият интелект е нещо полезно, просто трябва да го оформим по правилния начин.“ Бих казал, че все още сте съгласен с това, просто смятате, че моментът да го оформим е сега.

Да, съгласен съм. Бих казал, че реакцията като цяло не е адекватна на скоростта, с която се появява това предизвикателство. Много съм притеснен, че лошите неща няма да бъдат сведени до минимум и че много от добрите неща могат да се случат доста бавно, ако не го управляваме по правилния начин.

Много съм притеснен, че лошите неща няма да бъдат сведени до минимум и че много от добрите неща могат да се случат доста бавно, ако не го управляваме по правилния начин

Искам да проведем този разговор в три части. Искам да разбера как се отнасяте към ИИ като технология днес и защо той се развива толкова бързо. Много съм любопитен към самата технология и към техническите решения, с които потенциално бихме могли да я контролираме. Съществуват и политически решения, но изглежда, че трябва да изградим огромно количество технологии.

Много съм любопитен и да поговорим кой би могъл да наложи тези решения и ограничения, защото и това в момента изглежда напълно подлежащо на обсъждане. Нека започнем от самото начало. Какво ви накара да почувствате спешността на това, че ИИ се появява с такава скорост, че не сме готови да го контролираме?

Напредъкът през последната година беше наистина удивителен — започвайки със способността да пише код и да открива киберпропуски, способността да разсъждава в областта на биологията, способността да изгражда отношения с деца или други хора, способността да наруши равновесието на трудовия пазар. Невероятната мощ, която съществува днес, означава, че всяко едно от тези неща ще се случи и обществото трябва да бъде готово.

Виждате ли това като развитие на технологията като цяло или в продуктите, създавани от компаниите, които разработват ИИ днес?

Имам предвид, че ИИ е широк набор от модели, съществуващи по света — някои с отворен код, други собствени. След това са компаниите, които създават тези продукти, и лидерите на тези компании.

На всяко ниво вие или аз можем да имаме различно отношение към ИИ. Виждате ли тези рискове и способности широко разпространени в областта, или в конкретните компании, ръководени от конкретни хора?

Рискът не е свързан с един модел за разлика от друг модел. Разбира се, краткосрочната опасност при модели, при които можете да премахнете всички защитни механизми, е много висока и доста различна от тази при модели, при които следите, за да сте сигурни, че кибератакуващите и биотерористите няма да могат да използват възможностите на модела, за да причинят огромни вреди.

Големият краткосрочен риск наистина идва от моделите без защитни механизми. В по-дългосрочен план въпросът за контрола се отнася до всеки най-съвременен модел, но винаги е по-лесно, когато можете да се уверите, че защитите се запазват.

Причината да задам въпроса по този начин е, че може би днес нямате доверие на Сам Алтман, но имате доверие на Дарио Амодей. Или може би нямате доверие и на двамата, а вярвате на Сатя Надела от Microsoft, и това е пазарна динамика, при която всички ние може би ще изберем най-безопасния модел или най-безопасната компания, а вие смятате, че това е децентрализирано.

Смятате, че в крайна сметка технологията просто ще достигне етап, на който е вредна или може да причини тези вреди, защото съществува?

За човек, който извършва кибератака с модела, въпросът не е в избора на модел. Няма значение кой модел ще изберете.

Ако Anthropic има въведени защитни механизми, може би това няма да е възможно. Това е техният настоящ подход. Просто настоявам по този въпрос.

Да, със сигурност при моделите, при които се гарантира, че защитите няма да бъдат премахнати, и се полагат много усилия, за да се следи как се използват тези модели и да се наблюдава активността, краткосрочният риск не е огромен. По-скоро става дума за случаите, при които някой може да премахне всички защитни механизми и кибератаките са възможни още днес.

Когато говорите за кибератаки, имате ли предвид неща като пробива в Hugging Face и другите инциденти с киберсигурността, които видяхме в лабораториите и които са ви накарали да почувствате, че определени прагове са преминати и че трябва да говорите повече за необходимите ограничения?

Става дума за базовата мощ на моделите спрямо всичко: социалните отношения, трудовия пазар, кибератаките, биотерористичните атаки. Преминахме прага на способностите, след който това безспорно е най-опасната технология, създавана някога, и тя ще има всеобхватни последици за икономиката и начина, по който се водят войни.

Индустрията всъщност говори доста за това, но осведомеността или дори готовността да се повярва на тези твърдения — че „този път е различно“ — извън индустрията е много, много ниска.

Хората често гледат към миналото и казват: „Всички страхове от технологиите и последствията им, включително върху трудовия пазар, така и не се сбъднаха. Значи това трябва да е поредният пример като тях. Тези хора, които предупреждават за всички тези различни проблеми, просто грешат и можем да ги пренебрегнем.“

Някои хора отвън казват: „Наемете по-добри PR компании.“ Но това пренебрегва факта, че тези предупреждения са истината

Виждаме това и сред нашата аудитория, нали? „Не можем да пуснем модела, той е твърде опасен.“ „Това е просто реклама, която да поддържа балона.“ И така нататък.

Да. Нито едно от предупрежденията, отправяни от хората в индустрията за тези модели, не е неискрено. Те са напълно верни и това е почти универсално мнение. Можете дори да се върнете към историята на създаването на OpenAI, замислена с идеята: „Ако станем прекалено мощни, може би няма да отворим кутията на Пандора“, или към преговорите на DeepMind с ръководството на Google.

Хората, които са близо до това, са много загрижени за злоупотребите, влиянието върху работните места и социалните отношения. Бих казал, че е впечатляващо да има индустрия, която говори толкова ярко за това. Някои външни хора казват: „Наемете по-добри PR компании.“ Но това пренебрегва факта, че тези предупреждения са истината.

През живота си очевидно сте се движили напред-назад между комерсиализирането на софтуер и технологии и хуманитарната дейност. Има нещо особено в тези компании — и трите, Anthropic, OpenAI и DeepMind, започнаха с много възвишени идеали да изградят AGI.

Всички те създадоха някаква корпоративна управленска структура, за да избегнат капаните на комерсиализацията и неконтролирания капитализъм, а след това започнаха да продават на корпоративни клиенти и сякаш много бързо се отдалечиха от тези идеали. Смятате ли, че става дума просто за пазара?

Не, това не е справедливо.

Не смятате така?

Не.

OpenAI се преструктурира.

Не, не. Създадената структура не беше полезна в ситуация, в която има много, много компании на технологичния фронтир.

Структурата на OpenAI, която гласи „може би ще изберем никога да не превръщаме това в продукт и да пренебрегнем капиталистическите стимули“, работи само ако има една-единствена компания. Именно там се разпадна тя, а не заради промяна в осъзнаването на риска от страна на хората и начина, по който това напълно ще промени човечеството.

Това е другата динамика, която чувам от нашата аудитория и от самата индустрия на ИИ: „Бихме искали да спрем, но конкурентният натиск не ни позволява едностранно да спре една компания. Имаме нужда от регулаторни действия, които да ни спрат.“

Не съм чувал някой да казва, че иска да спре.

„Пауза.“ Това са думите на Дарио Амодей.

Чувал съм хора да говорят за забавяне на развитието на фронтира или за това моделите да бъдат проверявани от правителствата. Обикновено смятаме, че правителствата играят ключова роля в безопасността. Всъщност за неща, които не са и една милионна толкова опасни, колкото ИИ — автомобилни катастрофи, самолетни катастрофи — разчитаме на правителството да установи строги технически стандарти и да проверява проблемите.

Когато имате множество конкуренти, отговорността не може да бъде на компаниите. Това е напълно очевидно. Отговорността става отговорност на правителството, точно както е при всеки друг опасен продукт, макар че мащабът и степента на промяната там са нищожни в сравнение с това.

Ще ви кажа, че съм малко притеснен от способността на правителството да разбере технологията, която се надяваме то да регулира. Напоследък имах редица политици в Decoder. Не съм особено обнадежден.

Но ми е любопитно какво е вашето разбиране за това, защото на мен ми се струва, че опитът да регулирате нещо или да наложите стандарти на редица компании изисква наистина да разбирате природата на технологията, която се стремите да регулирате.

Не особено.

Ще ви кажа само, че в The Verge, попитахме Anthropic дали смятат, че Claude е жив. А отговорът не е „не“. Отговорът е: „Може би е съзнателен.“

Ако разговаряте с хора в OpenAI, те с удоволствие ще ви кажат, че AGI е тук. Те го обявиха приблизително по времето, когато обявиха Dots. Грег Брокман току-що каза: „Смятаме, че това е AGI. Приятно прекарване на всички.“ Демис Хасабис каза: „Стоим в подножието на сингулярността.“

Съществува усещане, че тази технология е различна, защото може да е способна сама да предприема действия. Тя може да е способна на рекурсивно самоусъвършенстване.

Разбира се. Но дефиницията на AGI не е важна за тези въпроси, свързани с безопасността. Въпросът е: създали ли сте инструмент, който може да спре банки или електрически мрежи?

Съществува бизнес модел за кибератаки. Думата „съзнание“ няма никакво отношение към него. Думата „AGI“ също няма никакво отношение към него. Изправени сме пред огромен проблем с безопасността и тъй като имате множество конкуриращи се компании, единственото решение е правителството да се обърне към индустрията за експертна помощ, но и да гарантира, че всеки модел запазва защитни механизми, които да предотвратят използването му по лош начин.