Главният изпълнителен директор на Anthropic заяви, че ИИ по природа централизира властта, а отворените модели просто я прехвърлят към този, който притежава чиповете

.В X избухна открит спор за регулирането на изкуствения интелект и концентрацията на власт. Инвеститорът Гавин Бейкър, бившият съветник на Белия дом Дейвид Сакс и изследователят от Meta Ян Льокюн обвиняват изпълнителния директор на Anthropic Дарио Амодей, че използва реторика на страха, за да си осигури регулаторно предимство.

Всичко започна с твърдение в подкаста All-In. Инвеститорът Гавин Бейкър заяви, че изпълнителният директор на Anthropic Дарио Амодей е казал вътрешно, че един ден компанията може да се окаже единствената останала частна фирма в света, без никого около себе си освен правителствата. Изследователят на Anthropic Шолто Дъглас нарече твърдението „напълно невярно“. По думите му именно икономическата концентрация на властта е това, от което Anthropic се страхува най-много. Той твърди, че пазарът на изкуствен интелект вече е най-конкурентният в света, тъй като всяка голяма компания се надпреварва да създава по-интелигентни и по-евтини модели.

След това Бейкър изложи същината на спора: Ако изкуственият интелект е потенциално опасен, има две основни позиции. Или го смятате за твърде опасен, за да бъде широко разпространен, и го концентрирате в ръцете на няколко компании и политици, или го смятате за твърде опасен, за да бъде концентриран, и го разпространявате възможно най-широко. Според Бейкър залогът, че някаква абсолютна власт доброжелателно ще се погрижи за човечеството, рядко е завършвал добре в историята.

Бившият главен изследовател на Meta Ян Льокюн също застана твърдо на страната на отворения изкуствен интелект. Подобно на печатната преса и интернет, каза той, изкуственият интелект усилва човешкия интелект, като подобрява достъпа до знания. Обществата се нуждаят от голямо разнообразие от системи с изкуствен интелект с различни ценности, по същата причина, поради която се нуждаят от разнообразна преса. В крайна сметка добрият изкуствен интелект за един човек е лош изкуствен интелект за друг.

Какво казва Амодей на критиците си

В крайна сметка дългата дискусия привлече и самия Амодей. В едва четвъртата си публикация в X за годината Амодей нарече тази постановка фалшив избор. В някои части на Силициевата долина, каза той, общоприетото схващане е, че регулирането автоматично означава регулаторно завладяване — тоест дадена индустрия сама пише правилата си в своя полза. Това е прекалено опростено. Според него регулирането може също да ограничи корпоративната власт и да помогне на обикновените граждани, когато добрите институции основават властта на идеи, а не на отделни личности.

Затова Anthropic умишлено разработва предложенията си така, че да забавят водещите лаборатории и да облагодетелстват по-малките, каза той. Като доказателство Амодей посочи калифорнийския закон SB53, който напълно освобождава от изискванията си компаниите под определен праг на приходите или разходите за обучение. Отворените модели, чиито тегла са свободно достъпни, решават проблема само отчасти, твърди той. Те просто пренасочват концентрацията към този, който разполага с най-голяма изчислителна мощ и най-много чипове за изкуствен интелект, което отново връща властта към големите лаборатории. По думите му изкуственият интелект се централизира поради самата си структура, главно заради законите на мащабирането, а не заради регулирането.

Инвеститорът Дейвид Сакс, който доскоро беше съветник на Белия дом по въпросите на изкуствения интелект, отвърна на разказа на Амодей в отговор от девет части. Според него най-впечатляващото е, че Амодей всъщност не оспорва твърдението на Бейкър, въпреки че лесно би могъл да го направи. Сакс твърди, че аргументът на Амодей за „регулаторния балон“ е подвеждащ, тъй като почти никой наистина не смята, че всяко регулиране представлява завладяване. Той посочи определението на нобеловия лауреат Джордж Стиглър, според което дадена индустрия придобива правилата и ги прилага предимно в своя полза, докато ползата за обществото като цяло остава разпиляна и неорганизирана.

Anthropic отлично разбира този механизъм, каза Сакс, и е наела няколко бивши служители на администрацията на Байдън, докато изгражда голям правителствен отдел. Той осмя предложението на Амодей за федерална агенция, която да преглежда водещите модели преди пускането им, като я нарече служба за одобряване на изкуствения интелект. Подобен процес на проверка би създал дълги опашки и би забавил САЩ спрямо Китай, който няма да въведе такива изисквания, каза Сакс.

Бейкър от своя страна смята, че дебатът вече е приключил: Почти всяка голяма компания с изключение на Anthropic е подписала писмото на Дженсън Хуанг в подкрепа на отворените модели.

Новини за изкуствения интелект без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен информационен бюлетин за изкуствения интелект, ексклузивния ни доклад „AI Radar“ за водещите тенденции шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.