Кремниевая долина хочет, чтобы вы инвестировали в чудеса

В письме основатели Anthropic призывают потенциальных владельцев акций «не рассматривать свою покупку исключительно в транзакционном ключе. Мы надеемся, что вместо этого вы увидите в ней возможность стать частью чего-то большего». В письме говорится, что движение к созданию передового ИИ «станет одним из переломных моментов в истории человечества». «Наша цель — помочь человечеству безопасно пройти этот этап технологической эволюции, открыть новые рубежи для исследований и приблизить наступление эпохи чудес». Однако в документе S-1 предупреждается: если что-то пойдёт не так, последствия могут оказаться катастрофическими — вплоть до «экзистенциальной» угрозы для человечества. Многие опасности изложены в исчерпывающих подробностях, включая риск того, что модели «будут вести себя так, как не намеревались ни пользователи, ни разработчики», что приведёт к «катастрофическим» инцидентам, страхование которых не смогла бы позволить себе вся страховая отрасль.