Още един изследовател на Google DeepMind напусна, заявявайки, че скорошното създаване на свръхинтелигентен ИИ е „по своята същност безотговорно“

На този етап това едва ли е новина, но още един изследовател на Google напусна заради рисковете от изкуствения интелект. Robert O'Callahan, технически експерт в Google DeepMind в Нова Зеландия, казва, че „настоящият темп на развитие на изкуствения интелект е твърде висок“. Той е работил по инструменти за проектиране на чипове, които са спомогнали за това изкуственият интелект да стане по-евтин и по-бърз — принос, който според него вече не може да оправдае.

O'Callahan определя риска от свръхинтелигентния изкуствен интелект като „реален, но несигурен“ и казва, че „стремежът към ASI в близко бъдеще е по своята същност безотговорен“. Той предупреждава и за отказа от самостоятелно мислене, предизвиканите от изкуствения интелект психоза и самота, концентрацията на власт, икономическите сътресения, рисковете за киберсигурността и липсата на отговорност. Той би заложил, че вредите от изкуствения интелект ще надхвърлят ползите от него. Според него много от колегите му в DeepMind споделят опасенията му, но рядко говорят публично. Сега той иска да се занимава с работа, която е „недвусмислено в полза на човека“.

Той препраща към „If Anyone Builds It“ на Eliezer Yudkowsky и Nate Soares, без да подкрепя твърдението им, че свръхинтелигентният изкуствен интелект неизбежно ще доведе до катастрофа. Авторите са свързани с ефективния алтруизъм — противоречиво движение, критикувано заради предпочитанието му към благотворителността пред преразпределението. Axios съобщава, че меморандум на Белия дом представя движението като маргинална група, подобна на култ, и атакува изпълнителния директор на Anthropic Dario Amodei като лице на „песимизма относно изкуствения интелект“.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен информационен бюлетин за изкуствения интелект, нашия ексклузивен тримесечен доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.