Деякі ветерани Anthropic, як повідомляється, купують віддалені землі на випадок, якщо «ШІ вийде з-під контролю»

Деякі співробітники Anthropic, які працюють у компанії найдовше, розробляють конкретні плани на випадок, якщо ШІ вийде з-під контролю. Протягом останніх кількох тижнів «деякі з її перших співробітників» повідомили колезі по індустрії, що розглядають можливість придбати землю у віддалених районах США, куди вони могли б переїхати, «якщо ШІ піде шкереберть», повідомляє WSJ.

Ідея втечі від ШІ не нова для цього кола. Колишні співробітники згадують, що навіть на корпоративних вечерях у перші роки існування Anthropic люди обговорювали сценарій на кшталт Манхеттенського проєкту. Їх могли попросити переїхати в пустелю й продовжувати розробляти ШІ всередині захищеного від електромагнітного випромінювання державного об’єкта.

У матеріалі простежується, наскільки тісно перші співробітники Anthropic та OpenAI пов’язані із субкультурою ефективного альтруїзму (EA). Дехто походить із мережі «думерів» у районі затоки Сан-Франциско, які роками моделювали сценарії кінця світу. Еліезер Юдковський бив на сполох щодо неконтрольованого ШІ ще в середині 2000-х років, ставши інтелектуальним хрещеним батьком цієї субкультури. До того як ШІ очолив список загроз, ця група була одержима катастрофічними ризиками — від падіння астероїдів до супервулканів.

Новини про ШІ без ажіотажу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.