Бывшие сотрудники Anthropic рассматривают удалённые земли из-за рисков ИИ
Некоторые из первых и наиболее долго работающих сотрудников Anthropic, по сообщениям, рассматривают покупку земли в удалённых районах США. Как пишет The Wall Street Journal, они обсуждали возможность переезда туда в случае, если искусственный интеллект выйдет из-под контроля. При этом публикация не подтверждает, что земля уже приобретена: речь идёт о планах на случай чрезвычайного развития событий.
По данным материала, разговоры о необходимости укрыться от связанных с ИИ рисков появились в окружении компании ещё в первые годы её существования. Бывшие сотрудники вспоминали обсуждения за корпоративными ужинами сценария по образцу Манхэттенского проекта. В таком случае исследователей могли бы отправить в пустыню, чтобы они продолжили создавать ИИ в защищённом от электромагнитных воздействий правительственном объекте.
Также сообщается о тесных связях первых сотрудников Anthropic и OpenAI с движением Effective Altruism и с сетью сторонников сценариев глобальной катастрофы в районе залива Сан-Франциско. Элиезер Юдковский предупреждал о неконтролируемом ИИ ещё в середине 2000-х годов. Ранее участники этой среды рассматривали угрозы астероидов и супервулканов.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.