IPO Anthropic предупреждает: его ИИ может шантажировать людей, обрести сознание и уничтожить человечество
Публикация Комиссией по ценным бумагам и биржам в понедельник формы S-1 Anthropic — в преддверии долгожданного первичного публичного размещения акций — вызвала множество обсуждений о том, смогут ли быстро растущие доходы компании компенсировать ещё более высокие расходы. Однако на фоне цифр и оптимистичных прогнозов относительно того, что ИИ «быстро преобразит все секторы мировой экономики, причём сильнее, чем это сделали индустриализация, электричество, полупроводники и интернет», Anthropic также уделяет непропорционально много времени в своей форме S-1 изложению многочисленных факторов риска, которые могут привести к краху компании.
В разделе «Факторы риска» формы S-1 Anthropic, занимающем 93 страницы и содержащем более 70 000 слов, буквально обсуждаются сотни потенциальных проблем, которые могут негативно повлиять на бизнес компании в ближайшие годы. Многие из этих потенциальных рисков связаны с типичными опасениями по поводу конкуренции, расходов, привлечения клиентов и возможного регулирования, о которых приходится беспокоиться практически любому бизнесу. Но некоторые риски указывают на интересные потенциальные точки отказа именно для Anthropic и для переполненного ажиотажем пузыря ИИ в целом.
Изучив посвящённый величайшим рискам Anthropic трактат объёмом с книгу, мы сократили список до семи наиболее неожиданных, интересных или заставляющих задуматься потенциальных проблем. Считайте это далеко не исчерпывающим обзором, который потенциальным инвесторам Anthropic следует держать в уме.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.