VisionQuest — ось що відбувається, коли ШІ справді виходить з-під контролю

Ці інциденти та попередження дослідників ШІ про те, що технологія може «вбити всіх людей» до кінця десятиліття, останнім часом зробили наратив навколо ШІ виразно зосередженим на катастрофах. У спільноті фахівців із безпеки ШІ існує чимале занепокоєння щодо потреби суспільства посилити контроль над розвитком технології, а низка компаній закликала до загальногалузевого уповільнення. Хоча ми бачили, як ці інструменти можуть насправді спричиняти руйнівні наслідки в реальному світі, значна частина останніх новин про ШІ віддавала духом катастрофізму, від якого компанії отримують вигоду, адже він змушує їхні продукти здаватися потужними. Схоже, саме подібна енергія спонукає такі компанії у сфері ШІ, як Anthropic, закликати людей-користувачів зважати на «добробут моделі». Нам кажуть, що генеративний ШІ водночас є жахливою загрозою і своєрідною сутністю, яка заслуговує на повагу, оскільки може бути свідомою, а тим часом люди, які створюють ці інструменти, стають одними з найбагатших і найвпливовіших людей на планеті.