OpenAI, Anthropic и Google обсъждат безопасността на ИИ от седмици

Крис Лийн, глобалният ръководител на политиките на OpenAI, каза пред журналисти във вторник, че компанията работи с конкурентите Anthropic и Google DeepMind по въпросите на безопасността на ИИ от седмици, както първо съобщи Bloomberg. По информация Лийн е във Вашингтон, за да работи с американските законодатели по въпросите, свързани с катастрофалните рискове от ИИ.

Разкритието идва след есето на главния изпълнителен директор на Anthropic Дарио Амодей, публикувано в събота, в което се призовава индустрията да работи заедно, за да забави темпото на развитието на най-съвременния ИИ и да избегне катастрофалните рискове. Лидери в областта на ИИ от цялата индустрия, включително Сам Алтман от OpenAI, Демис Хасабис от Google и Илон Мъск от SpaceXAI, подкрепиха писмото и призива на Амодей за действие, като Алтман заяви, че OpenAI ще се присъедини към Anthropic, като включи независими оценители в компанията, които да следят за безопасността. 

Във вторник Лийн призна, че трите компании водят разговори относно безопасността на ИИ от няколко седмици. Някои, включително Алтман, отбелязаха, че подобни разговори могат да изложат компаниите на риск от нарушаване на антитръстовото законодателство, ако бъде установено, че координацията потиска конкуренцията. В есето си Амодей предложи ограничено освобождаване, предоставено от правителството, което да позволява подобна координация по въпросите на безопасността, но според информацията Лийн е заявил, че на компаниите не им е необходимо такова. 

Новината потвърждава по-ранни информации и подсказва, че компаниите са работили заедно. В интервю за Fortune в края на миналата седмица Алтман намекна, че е водил частни разговори с други лидери в областта на ИИ. Тази седмица The Information съобщи, че трите компании работят заедно за създаването на орган за стандарти в индустрията на ИИ — нещо, което според информацията Алтман е казал на служителите, че трябва да се случи без подкрепата на правителството на САЩ. 

През юли Хасабис призова САЩ да създадат нов орган за стандарти, който да действа като надзорен орган за ИИ, с правомощия да проверява най-напредналите модели в света и да координира забавяне на темпото в цялата индустрия, ако опасностите се задълбочат. 

Що се отнася до президента Тръмп, той отхвърли опасенията за безопасността като измама и се противопостави на необходимостта от по-строги регулации, заявявайки, че всяко забавяне ще даде предимство на Китай в надпреварата. Неговият ключов съветник по въпросите на ИИ Дейвид Сакс — дългогодишен инвеститор с личен интерес в голяма част от индустрията — повтори същата позиция, заявявайки, че страховете от екзистенциален риск, породен от ИИ, са преувеличени.

На същата среща във вторник Лийн заяви, че OpenAI подкрепя разпоредба в закона FRONTIER, която би задължила водещите лаборатории, разработващи най-съвременен ИИ, да допускат „организации за независима проверка“ в своите компании, за да гарантират, че моделите се разработват безопасно.

TechCrunch се свърза с Anthropic, Google и OpenAI за коментар.