Изследовател от Anthropic предупреди за самоусъвършенстващ се свръхинтелект
Изследовател от Anthropic е подал оставка тази седмица и е публикувал предупреждение в X. В него той заявява, че компанията „се устремява директно към самоусъвършенстващ се свръхинтелект и залага живота ни“. Ръководителят на екипа по изравняване на AI системите в Anthropic е съподписал посланието, вместо да го оттегли или смекчи. Подобни предупреждения за опасностите от все по-мощни модели вече са се появявали в индустрията.
Случаят привлича допълнително внимание заради съобщенията, че Anthropic се подготвя за IPO. В подкаста Equity Kirsten Korosec, Anthony Ha и Sean O’Kane обсъждат как оставката и позицията на служителите се вписват в надпреварата за разработване на по-способни модели.
Епизодът разглежда и първото голямо събитие на Apple при главния изпълнителен директор John Ternus, включително акцента върху AI и постоянните функции на Watch и AirPods. Други теми са финансирането от $1 милиард за Stokes Space, инвестицията от $2 милиарда в Cognition при оценка от $48 милиарда и началният кръг от $50 милиона за плаващи ядрени реактори, предназначени да подпомогнат захранването на AI центрове за данни.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.