Попередження Anthropic про самовідтворюваний ШІ викликає тривожне дежавю

Ласкаво просимо до тривожного світу хробаків зі штучним інтелектом, де, залежно від того, кого запитати, перспектива неконтрольованого поширення моделей побутовими приладами — це або неминучий ризик для кібербезпеки, або черговий випадок, коли компанії, що працюють у сфері ШІ, поширюють ажіотаж із відтінком приреченості. У дописі в блозі, опублікованому цього тижня, Anthropic попереджає, що невеликим моделям може знадобитися «кілька місяців», щоб набути таких можливостей. Їхні експерименти надають певні докази на підтримку цього твердження, але залишають величезний розрив між тим, що продемонстрували дослідники, і загрозою, що насувається, про яку вони попереджають. Водночас експерти, які поспілкувалися з The Verge, кажуть, що хоча комп’ютерні хробаки та побоювання щодо самовідтворюваного ШІ — не нове явище, нещодавні досягнення свідчать про вагомі підстави серйозно поставитися до цих попереджень.