Еще один исследователь Google DeepMind уволился, заявив, что скорое создание сверхинтеллектуального ИИ «по своей сути безответственно»

На этом этапе это уже едва ли можно назвать новостью, но ещё один исследователь Google уволился из-за рисков, связанных с ИИ. Роберт О'Каллаган, технический специалист Google DeepMind в Новой Зеландии, считает, что «нынешние темпы изменений слишком высоки». Он работал над инструментами проектирования чипов, которые помогли сделать ИИ дешевле и быстрее, но теперь, по его словам, больше не может оправдывать свой вклад.

О'Каллаган называет риск со стороны сверхинтеллектуального ИИ «реальным, но неопределённым» и заявляет, что «стремление создать ОИИ в ближайшем будущем по своей сути безответственно». Он также предупреждает о когнитивной капитуляции, психозе и одиночестве, вызванных ИИ, концентрации власти, экономических потрясениях, рисках для кибербезопасности и отсутствии подотчётности. Он готов поставить на то, что вред от ИИ перевесит его пользу. По его словам, многие коллеги из DeepMind разделяют его опасения, но редко говорят об этом публично. Теперь он хочет заниматься работой, которая «однозначно служит интересам человека».

Он ссылается на книгу Элиезера Юдковского и Нейта Соареса «If Anyone Builds It», не поддерживая утверждение авторов о том, что сверхинтеллектуальный ИИ неизбежно приведёт к катастрофе. Авторы связаны с эффективным альтруизмом — спорным движением, которое подвергается критике за предпочтение благотворительности перераспределению средств. Axios сообщает, что в меморандуме Белого дома это движение представлено как маргинальная группа, напоминающая культ, а генеральный директор Anthropic Дарио Амодеи назван лицом «доктрины обречённости» в отношении ИИ.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, эксклюзивный передовой отчёт «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.