Дослідник Anthropic попередив про самовдосконалюваний надінтелект
Дослідник Anthropic цього тижня звільнився з компанії та опублікував у X попередження, заявивши, що вона «прямує просто до самовдосконалюваного надінтелекту й грає в азартну гру з нашими життями». Керівник напряму alignment в Anthropic також підписав це повідомлення, не відкликавши й не пом’якшивши його. Подібні застереження щодо ризиків дедалі потужніших моделей уже лунали в індустрії штучного інтелекту.
Заява пролунала на тлі повідомлень, що Anthropic готується до IPO, тому привернула особливу увагу. У подкасті Equity Kirsten Korosec, Anthony Ha і Sean O’Kane обговорили, що відставка та підтримка попередження керівником напряму свідчать про перегони індустрії за створення дедалі спроможніших моделей.
Випуск також був присвячений першій великій презентації Apple під керівництвом генерального директора John Ternus, зокрема увазі до AI і постійно активних функцій Watch та AirPods. Серед інших тем — залучення Stokes Space $1 мільярда, інвестиції в Cognition на $2 мільярди за оцінки $48 мільярдів і посівний раунд на $50 мільйонів для плавучих ядерних реакторів, покликаних допомогти живити центри обробки даних для AI.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.