Дори кралят на Англия има своите колебания относно ИИ

Крал Чарлз беше домакин на частна среща в четвъртък с някои от най-влиятелните имена в сферата на изкуствения интелект и британското правителство, сред които Дженсън Хуанг от Nvidia, ръководители от OpenAI и Anthropic, новият британски министър по въпросите на изкуствения интелект Канишка Нараян и дори ръководителят на британската служба за външно разузнаване. Там беше и Паоло Бенанти, който съветва папата по въпросите на изкуствения интелект.

Изказването на краля на срещата — проведена в Dumfries House, имение от XVIII век в Еършър, собственост на благотворителната фондация на крал Чарлз — беше забележително, тъй като по конституционни причини кралското семейство обикновено внимава да не навлиза твърде дълбоко в политически въпроси — а изкуственият интелект е един от най-спорните въпроси в света в момента. Кралят призова присъстващите лидери да намерят начин да контролират изкуствения интелект „преди да е станало твърде късно“, като добави, че бързото развитие на тази технология — и нейната „същност“ — е „едновременно интригуващо и дълбоко тревожно“.

„Изкуственият интелект вече демонстрира огромен потенциал да подобрява и спасява живот“, каза той, посочвайки медицината и науката като пример. „И все пак онези, които създадоха тези технологии, все по-често предупреждават, че изкуственият интелект рискува да развие по-мрачни способности, може би дори да отнема живот.“ Това изказване дойде само дни след като изследовател от Anthropic напусна компанията и написа онлайн, че компаниите за изкуствен интелект „се надпреварват да създадат машини, които са много по-интелигентни от всеки човек“ и че човечеството „може да не оцелее след това“.

Кралят продължи, като заяви, че е спешно да бъдат правилно разгледани „екзистенциалните опасности“ от това какво би се случило, ако тази технология попадне в неподходящи ръце и бъде използвана по „потенциално катастрофални начини“.

„Нима не се нуждаем от достатъчно средства за контрол, преди да е станало твърде късно?“, каза той. В края на срещата крал Чарлз призова лидерите да намерят начин да използват добрите страни на изкуствения интелект и да изградят международно сътрудничество и консенсус за постигането на тази цел. (Това изказване идва, след като Anthropic ограничи достъпа до своите модели Fable и Mythos само за клиенти от САЩ, шокирайки европейската технологична сцена и карайки мнозина да разсъждават върху концепцията за суверенитет в сферата на изкуствения интелект.)

„Задачата пред вас не е просто да развивате технологиите, а да гарантирате, че те остават твърдо в услуга на човечеството, общността и природния свят“, каза той в края на речта си. „Докато приемаме новото, не трябва да губим непреходното.“

Медиите съобщават, че той е останал за около 20 минути, оставяйки гостите да обсъдят тези въпроси помежду си. За срещата на краля OpenAI изпрати финансовия си директор Сара Фрайър, а Anthropic — Тино Куеляр, който ръководи глобалните отношения. Когато беше потърсен за коментар, Куеляр заяви, че компанията се е почувствала поласкана да участва в дискусията и че е благодарна на краля за „събирането на лидери от индустрията и представители на различни обществени сфери, за да обсъдят ролята на изкуствения интелект в служба на обществения интерес“.

Това не е първият път, в който крал Чарлз говори за предизвикателствата и ползите от изкуствения интелект — той направи това и през 2023 и 2024 г. Тази среща обаче е особено навременна, тъй като изкуственият интелект продължава да доминира във всяка индустрия, тема и форма на разговор. Този месец Сам Алтман от OpenAI, Илон Мъск и Дарио Амодеи от Anthropic призоваха за забавяне на развитието на изкуствения интелект, но Хуанг от Nvidia и президентът Доналд Тръмп бързо отхвърлиха тези призиви. „Водим Китай в областта на изкуствения интелект“, каза президентът. „Ние сме най-развитата държава в света и честно казано, искам да остане така, защото който спечели в областта на изкуствения интелект, печели.“

Това показва колко сложен е станал въпросът, тъй като интересите на големите технологични компании, политиката и обществото се сблъскват. През последната година OpenAI и Anthropic намекваха за грандиозни първични публични предлагания на акции, макар че наскоро OpenAI заяви, че плановете ѝ за IPO са спрени тази година, докато опасенията относно безопасността на изкуствения интелект продължават.