Ще один дослідник Google DeepMind звільнився, заявивши, що незабаром створити надінтелектуальний ШІ — «за своєю суттю безвідповідально»

На цьому етапі це вже навряд чи новина, але ще один дослідник Google звільнився через ризики, пов’язані зі ШІ. Роберт О’Каллаган, технічний експерт Google DeepMind у Новій Зеландії, каже, що «нинішні темпи змін надто високі». Він працював над інструментами проєктування чипів, які допомогли зробити ШІ дешевшим і швидшим, але, за його словами, він більше не може виправдовувати свій внесок.

О’Каллаган називає ризик від надінтелектуального ШІ «реальним, але невизначеним» і каже, що «прагнення створити ASI найближчим часом за своєю суттю є безвідповідальним». Він також попереджає про когнітивну капітуляцію, психоз і самотність, спричинені ШІ, концентрацію влади, економічні потрясіння, ризики для кібербезпеки та відсутність підзвітності. Він готовий посперечатися, що шкода від ШІ переважить його користь. За його словами, багато колег із DeepMind поділяють його занепокоєння, але рідко висловлюються публічно. Тепер він хоче займатися роботою, яка «однозначно служить інтересам людства».

Він посилається на книжку Еліезера Юдковського та Нейта Соареса «If Anyone Builds It», не погоджуючись із її твердженням, що надінтелектуальний ШІ неминуче призведе до катастрофи. Автори пов’язані з рухом ефективного альтруїзму — суперечливим рухом, який критикують за те, що він віддає перевагу благодійності, а не перерозподілу. Axios повідомляє, що в меморандумі Білого дому цей рух названо маргінальною групою, схожою на культ, а генерального директора Anthropic Даріо Амодея атакують як обличчя «думерства» у сфері ШІ.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.