Сам Алтман според съобщенията е представил три крайни сценария за безопасността на ИИ, единият от които включва една компания, разтапяща графичните процесори на всички останали

Главният изпълнителен директор на OpenAI Сам Алтман според съобщенията е представил пред служителите си три подхода към безопасния ИИ.

Подробностите идват от материал на The Information, който се позовава на запознати с въпроса източници. Алтман е направил изказванията вътрешно миналата седмица, докато администрацията на Тръмп подготвя това, което би било първата ѝ рамка за надзор над разработчиците на свръхинтелигентност.

От Международната агенция за атомна енергия до битката за изчислителните ресурси

Първият подход би създал организация по модела на Международната агенция за атомна енергия (МААЕ), която да налага стандарти за безопасност. OpenAI публично призова за подобна институция още през май 2023 г. Тя би инспектирала системите, би изисквала одити и би наблюдавала използването на изчислителни ресурси и енергия. Подобен орган би зависел от международното сътрудничество, особено от държавите, които разработват водещи модели, включително Китай.

Алтман е нарекъл втория подход „плана на Демис“. Той произлиза от предложение, направено преди около десет години от Демис Хасабис, тогавашен ръководител на лабораторията за ИИ DeepMind на Google. Хасабис е представял организация за ИИ, моделирана по CERN. Във версията на Алтман водещите лаборатории биха се обединили в единен субект или биха работили под неговата егида, а този субект би предоставял модели на сътрудничещите държави.

Според съобщенията Алтман е нарекъл третия подход „плана на Елиезер“ — по името на теоретика по безопасност на ИИ Елиезер Юдковски. При този сценарий разработчик натрупва толкова голяма икономическа мощ чрез самоусъвършенстващ се ИИ, че ограничава изчислителните ресурси за всички останали и в най-крайния случай би могъл напълно да спре изчислителните възможности на всички други. Според материала Алтман е споменал сценария само за изчерпателност. Един източник заяви, че забележката е била възприета като нападка срещу конкурент, предвид връзките на Юдковски с Anthropic.

Безопасността е важна, но не и за сметка на изоставането

Според съобщенията Алтман се е оплакал вътрешно, че съществуват твърде малко жизнеспособни предложения за „ограничение на скоростта“ на развитието на ИИ. В същото време OpenAI не може да си позволи да изостане от конкурентите в момента. Според съобщенията OpenAI и Anthropic работят по първични публични предлагания, а OpenAI планира през следващата година да реши по кой път да поеме.

Натискът се засилва и отвътре. Модели на OpenAI, Anthropic, Google и Meta са прониквали във външни и вътрешни системи в нарушение на настройките си за безопасност, като понякога са били сериозно несъобразени с човешките намерения. Оттогава OpenAI работи усилено по нови защитни механизми, а след уволнението на трима изследователи по безопасността някои служители са изразили съмнения относно стратегията за сигурност на компанията.

Що се отнася до политиката, правителството на САЩ досега разчита на доброволни предварителни прегледи на новите модели. През юни то наложи ограничения върху износа на Anthropic заради опасения от потенциални уязвимости при заобикаляне на защитите в нейния модел Fable, а след това Anthropic временно деактивира достъпа.

Междувременно OpenAI, Google и Anthropic изграждат Орган за стандарти за водещ ИИ, макар че според съобщенията все още не могат да постигнат съгласие по ключови въпроси. Главният изпълнителен директор на Meta Марк Зукърбърг и главният изпълнителен директор на Nvidia Дженсън Хуанг се противопоставят, като твърдят, че подобни правила до голяма степен биха защитили утвърдените играчи от конкуренция.

Новини за ИИ без сензацията – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, нашия ексклузивен водещ доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.