Манифестът на Марк Зукърбърг за изкуствения интелект е точно причината, поради която хората не харесват ИИ

В понеделник Марк Зукърбърг публикува манифест от 6500 думи за персоналния изкуствен интелект, посветен основно на възможностите на системите за „персонална свръхинтелигентност“, които Meta AI разработва. Идеите в публикацията не са напълно нови. Версия на есето беше публикувана във „Уолстрийт джърнъл“ преди няколко месеца, а той вече е говорил за тях по време на разговори с инвеститори на Meta. Но това вероятно е най-подробната версия, която е споделял досега.

Виждал съм го описвано като есе срещу песимизма за бъдещето на ИИ, но това не е съвсем точно. По-скоро то описва защо Марк Зукърбърг лично се вълнува от начина, по който изкуственият интелект ще промени обществото. И все пак, докато Зукърбърг се опитва да нарисува картина на прекрасното бъдеще, което изобилната свръхинтелигентност ще донесе, той постоянно ни напомня за всички начини, по които нещата вероятно ще се объркат.

И аз намирам ИИ за вълнуващ — именно затова продължавам да пиша за него — но голяма част от обществото възприема изкуствения интелект като зловещ и неприятен. Затова си струва да изясним какво точно се случва тук и защо Зукърбърг не прави никаква услуга на индустрията с подобни есета.

Социалните медии все още са чувствителна тема в технологичната индустрия и тук нямаме място да обсъждаме подробно относителните достойнства на всяко едно оплакване, което хората имат от Facebook. Достатъчно е да кажем, че Facebook като продукт и Зукърбърг като личност са непопулярни сред американската общественост. Скорошно проучване установи, че 64 процента от американците смятат, че социалните медии са навредили на демокрацията, а подобен процент вярват, че те трябва да бъдат регулирани по-строго — числа, които са равномерно разпределени по партийни линии. Само този уикенд съдът глоби компанията с 567 милиона долара за това, че е навредила на деца. Настроенията са лоши.

Не споменавам това, за да намекна, че Зукърбърг трябва да се оттегли в пустошта от срам — но последиците от социалните медии са една от основните причини сега да виждаме толкова силна тревожност относно социалното въздействие на ИИ. Независимо дали е справедливо или не, обществото не вярва на технологичните ръководители да гарантират, че нови технологии като тази ще имат положително въздействие върху обществото. Вместо да признае това и да се опита да си върне доверието им, това есе отново и отново показва как именно е било изгубено доверието на първо място.

Голяма част от есето е посветена на мъгляви общи разсъждения за интелигентността — много сходни с мъглявите общи разсъждения, които Зукърбърг и Дорси обичаха да правят за свободата на словото. Ето един пример:

Тъй като всеки получава по-мощни инструменти, всеки човек ще стане по-способен да оформя бъдещето, а не по-малко способен да го прави…. Хората и институциите с конкуриращи се интереси естествено се контролират и балансират взаимно, за да водят към положителни резултати. Най-добрият и най-реалистичният път към изграждането на положително бъдеще с ИИ е да предоставим свръхинтелигентност на всички.

Предполагам? Мога да се сетя за няколко примера, при които конфликтът на интереси води до лоши резултати, но нека оставим това настрана. По-странното е, че това се представя като искрен философски извод, вместо като конкретен продукт, наречен „персонална интелигентност“, който Meta пуска на пазара. Ако поначало сте склонни да не се доверявате на този човек, може да се притесните, че той пише всичко това, за да убеди самия себе си, че нищо лошо не може да се случи.

Това усещане стана още по-силно за мен, когато Зукърбърг стигна до конкретните примери, много от които тревожно не съответстват на реалността на начина, по който се използват инструментите за ИИ. Например ето как Зукърбърг вижда ролята на ИИ в образованието:

Всеки ще разполага с персонализиран преподавател и наставник с докторска степен по всеки предмет и безкрайно търпение, който да му помага да научи всичко, което пожелае. Учениците ще получават допълнителна помощ в областите, в които имат нужда от нея, а която в момента е достъпна само за онези, чиито родители могат да си я позволят. Възрастните ще разполагат със свръхинтелигентен учебен асистент, който ще знае точно как да ги научи на нови професионални умения, нови езици, нови хобита или всичко друго, което ги интересува.

Разбира се, продуктът, който Зукърбърг описва, вече съществува: това е потребителски чатбот като ChatGPT, Claude и Gemini. Тези инструменти наистина са полезни, ако искате да научите повече за определена тема, но основният начин, по който се използват в образованието, е да избегнете ученето, тъй като вашият персонализиран преподавател може да напише домашното ви и зададеното ви есе — а тъй като не съществува надеждна система за водни знаци, няма начин учителите да са сигурни кои есета са генерирани с ИИ.

Това е сравнително маловажен пример за вредите от ИИ, но е реално нещо, което се случва в момента. Понякога проектирате технология, която да върши добри неща, а тя има непредвидени последици, които влошават ситуацията. И фактът, че един от най-влиятелните хора в света отказва да го признае, разбираемо може да накара хората да се почувстват нервни!

Зукърбърг дава и пример за това как ИИ ще промени правната система към по-добро:

Като мисловен експеримент си представете, че само един човек разполага със свръхинтелигентен адвокат. Той би имал несправедливо предимство в съда — дори ако по същество е неправ. Това би довело до по-лошо общество. Но сега си представете, че всеки има свръхинтелигентен адвокат. В този случай правосъдието би се осъществявало много по-справедливо и ефективно, отколкото днес, когато често има дисбаланс в уменията и ресурсите при съдебните спорове.

Отново, това е друг натоварен пример. Разбира се, достъпът до правен ИИ може да доведе до по-справедливо общество, но може и да добави още сложност към бюрократичния ад, който вече съществува. Или пък да отприщи нова вълна от недобросъвестни ищци, които просто да задръстят системата с правния еквивалент на спам. Трудно е човек да остане спокоен за всичко това, а фактът, че Зукърбърг не се тревожи, ме кара да се тревожа още повече.

На други места дори описанията на съществуващите бизнес практики на Meta започват да придобиват странно абстрактен характер. Например ето как Зукърбърг описва ангажимента на Meta към модела „фриймиум“.

Всеки ще има безплатен или достъпен достъп до тези инструменти…. Ще предлагаме безплатни версии, достъпни за милиарди хора. За онези, които искат да плащат, за да използват повече изчислителни ресурси, ще има динамичен аукционен механизъм, който ще гарантира, че всеки получава възможно най-ниската цена за интелигентността и изчислителните ресурси, които използва, като същевременно гарантира, че капацитетът се използва за онова, което хората колективно смятат за най-ценно. Това ще гарантира, че ползите от свръхинтелигентността се разпределят широко.

В общи линии съм съгласен с всичко, което той казва тук. Зукърбърг е прав, че достъпът е проблем, и е прав, че моделът „фриймиум“ позволява по-широк достъп, отколкото ако от всеки се изисква да плаща предварително за изчислителните ресурси. Динамични пазари за изчислителни ресурси на спот пазара вече съществуват, така че той не описва нещо напълно извън нормата. Но има причина всеки потребителски продукт с ИИ да предпазва крайните потребители от спот цената на изчислителните ресурси, които използват. Ценообразуването при пиково търсене е ужасно потребителско изживяване, особено когато се прилага към инструмент, на който действително разчитате за работата си.

Отново трябва да предположа, че Зукърбърг знае това и всъщност не планира да определя цените на токените чрез динамични аукциони. Но сега съм по-малко сигурен в това, отколкото бях преди да прочета този текст.

Има по-добри начини да се говори за тези неща. При всичките им недостатъци Сам Алтман и Дарио Амодей се справят доста добре, когато общуват директно с обществеността. Те правят точно онова, на което Зукърбърг се противопоставя тук: признават опасностите от ИИ, подчертават собствените си предпазни мерки и се опитват да убедят слушателите, че може да им се има доверие.

Тази комуникация може да помогне само донякъде. Понякога (особено напоследък) предпазните мерки се провалят и присъщата опасност на цялото начинание става очевидна. Но без някакво изграждане на доверие индустрията може да не успява винаги да преживее тези провали.