Бил Гейтс предупреждава, че ИИ е по-опасен, отколкото технологичната индустрия признава

Съоснователят на Microsoft Бил Гейтс вижда масовата безработица и биотероризма като реални опасности от ИИ. Той казва, че индустрията умишлено прикрива рисковете, защото залогът е твърде голям.

В есе от близо 6000 думи и интервю за New York Times Бил Гейтс описва навлизането в ерата на ИИ като „един от най-бурните периоди в човешката история“. Светът не се подготвя подобаващо за това, казва той, и просто няма план.

Най-острата му критика е насочена към собствената му индустрия, която според него съзнателно омаловажава опасностите, защото залогът е твърде голям. „Насаме хората, които разбират колко добри са тези неща и колко по-добри стават, са много притеснени“, казва той пред NYT. Публично обаче си казват: „Хей, човече, не го казвай. Това е лошо за нас – за следващия трилион долара, който се опитваме да съберем.“

Защо сравнението с миналите сътресения не издържа

Част от това успокоение се основава на удобно сравнение. Предишните технологични промени в крайна сметка създадоха повече работни места, отколкото унищожиха, така че този път би трябвало да се случи същото. Гейтс смята това успокоение за грешка. Ерата на ИИ, казва той, е „напълно, абсолютно, изцяло, тотално различна“.

За разлика от персоналния компютър, който прекара двадесет години в преобразяване на труда, ИИ работи на устройства, които хората вече притежават, и използва обикновен език. „Не трябва да се адаптираме към него, защото той може да се адаптира към нас.“ За първи път технология може не само да замени човешкото познание, но и да го надмине, и то във всички индустрии в рамките на едно десетилетие, а не на няколко поколения. Именно от тази скорост произтичат трите най-големи опасения на Гейтс.

Изгубени работни места, биологични оръжия и самотни потребители

Първото е трайната загуба на работни места, която ще засегне най-силно началните и средните позиции в продажбите, обслужването на клиенти, разработването на софтуер и правната поддръжка. Но и физическият труд е под натиск, щом гъвкавите роботи станат много по-евтини. Голяма част от това развитие се случва в Китай. Гейтс посочва проучване на Станфорд като доказателство, че промяната вече е започнала. Откакто ИИ се разпространи, заетостта сред младите работници в най-засегнатите професии е спаднала осезаемо, докато по-възрастните им колеги засега са пощадени.

Второто му опасение далеч надхвърля пазара на труда. ИИ улеснява кибератаките, измамите и дезинформацията, но преди всичко сваля прага за създаване на биологични оръжия. Само няколко души с достъп до усъвършенстван ИИ биха могли да разработят нови патогени, предупреждава Гейтс. Проблемът се задълбочава от факта, че полезните и опасните способности трудно се разделят. Същият модел, който открива уязвимост, за да я отстрани, може да помогне на някого и да я използва. А системите с ИИ могат все по-често да действат самостоятелно срещу човешките интереси.

Третата опасност е по-лична – психологическите и социалните последици. ИИ спътниците, които никога не противоречат и са винаги на разположение, крият реален потенциал за пристрастяване, казва Гейтс. Проучване на Станфорд и „Карнеги Мелън“ показва, че колкото по-интензивно и емоционално хората използват тези чатботове, толкова по-зле се чувстват. Той е особено притеснен за децата и за загубата на критичното мислене, което се превръща в умение за оцеляване в ерата на дийпфейковете и целенасочената дезинформация.

Данъци, забрани и етикет „Запазено за хора“

Колкото и мрачен да звучи този списък, Гейтс вижда в технологията и огромно обещание – в науката, здравеопазването, земеделието в бедните страни и образованието. Уловката е, че тези ползи няма да се появят сами. Те трябва да бъдат постигнати чрез политики, а Гейтс не очаква индустрията да ги осигури сама. „Саморегулация за най-опасния инструмент, създаван някога? Не, благодаря!“

Вместо това той призовава за демократичен процес и нови национални и международни институции, подобни на надзорните режими за ядрените оръжия, авиацията или защитата на озоновия слой. Той конкретно предлага символичен данък върху използването на ИИ и роботите. Ако днес наемете човек, плащате осигуровки. Ако купите робот, можете веднага да отпишете разхода. Така данъчната система почти подтиква компаниите да заменят хората с машини. Някои професии, като тези в сферата на грижите, трябва да останат запазени за хора, идея, която Гейтс нарича „Запазено за хора“.

Фактът, че именно той отправя това предупреждение, предвид колко много символизира възхода на компютърната индустрия, се корени в момент от собствената му професионална област. Програмирането е сферата, която познава най-добре, а инструментът на Anthropic Claude Code го е шокирал. „Идеята, че сега тези неща в някакъв смислен смисъл са по-добри от мен, е като: Какво, по дяволите?“

Той открито признава възможен конфликт на интереси: все още има финансови връзки с технологичната индустрия, макар че печалбите отиват във фондацията на Гейтс.

От оптимист за свободното време до предупредителен глас

Прави впечатление колко по-твърд е станал тонът на Гейтс. През 2018 г. той все още наричаше ИИ по същество по-добър софтуер и предвиждаше по-дълги отпуски и повече работа в социалната сфера. През 2022 г. той твърдеше, че работниците, заменени от машини, ще бъдат нужни в области като грижите за възрастни хора и децата, и че най-важни са преквалификацията и по-равномерното разпределение на богатството.

Още през септември 2024 г. той се съмняваше, че ИИ ще промени фундаментално проблема с дезинформацията, въпреки че проучванията вече показваха, че GPT-4, снабден с лична информация, може да повиши съгласието с аргументи с 81,7 процента в сравнение с човешки дебати.

Гейтс не е единственият представител на индустрията с подобни предупреждения: изпълнителният директор на Anthropic Дарио Амодей вече предупреди през 2024 г. за биологични оръжия, генерирани от ИИ, а през 2025 г. прогнозира, че до половината от началните позиции в офисната работа могат да изчезнат и безработицата да се повиши до 10–20 процента. Амодей също предложи данък върху токените.

Призивът за международна институция за ИИ също има прецеденти. През 2023 г. изследователите Гари Маркъс и Анка Ройл предложиха глобална, нестопанска агенция за ИИ, моделирана по Международната агенция за атомна енергия. А публикуван американски доклад от 2024 г. документира анонимни опасения за безопасността от служители на водещи компании за ИИ, включително тревоги относно стимулите пред техните ръководители.

Новини за ИИ без сензация – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.