Некоторые ветераны Anthropic, как сообщается, покупают удалённую землю на случай, если «ИИ выйдет из-под контроля»

Некоторые сотрудники Anthropic с самым большим стажем работы в компании составляют конкретные планы на случай, если ИИ выйдет из-под контроля. За последние несколько недель «некоторые из её первых сотрудников» сообщили коллеге по отрасли, что рассматривают возможность купить землю в отдалённых районах США, куда они могли бы перебраться, «если ИИ выйдет из-под контроля», сообщает WSJ.

Идея спасаться бегством от ИИ не нова для этого круга людей. Бывшие сотрудники вспоминают, что даже на корпоративных ужинах в первые годы существования Anthropic обсуждался сценарий в духе Манхэттенского проекта. Возможно, им пришлось бы перебраться в пустыню и продолжить разработку ИИ внутри защищённого от электромагнитных воздействий правительственного объекта.

В публикации прослеживается, насколько тесно первые сотрудники Anthropic и OpenAI связаны с субкультурой эффективного альтруизма (EA). Некоторые из них происходят из сети «думеров» в районе залива Сан-Франциско, которые годами просчитывали сценарии конца света. Элиезер Юдковский забил тревогу по поводу неконтролируемого ИИ ещё в середине 2000-х годов, став интеллектуальным крёстным отцом этой субкультуры. До того как ИИ занял первое место в списке угроз, группа была одержима катастрофическими рисками — от падения астероидов до супервулканов.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.