Попередження про загрозу ШІ вийшли в американський мейнстрим
Джейкоб Коксон, дослідник, який залишає Anthropic, привернув широку увагу у США попередженнями про штучний інтелект, здатний до самовдосконалення. В ефірі CNN він заявив, що такі системи можуть становити екзистенційну загрозу для людства. Його погляди також обговорювали на Fox News. Кілька американських політиків порушили тему в соціальних мережах, а Джо Роган присвятив безпеці ШІ окремий епізод своєї програми.
Інші дослідники безпеки з Anthropic та OpenAI підтримали занепокоєння Коксона. Пол Крістіано попередив, що без кращого нагляду людство може назавжди втратити контроль над надінтелектом. Нещодавно Крістіано приєднався до ради OpenAI Foundation та її Safety and Security Committee, який контролює практики компанії у сфері безпеки, але не має права голосу.
У статті сценарій вимирання людства названо крайнім і спірним припущенням. Також зазначається, що невідомо, чи здатні сучасні технології взагалі створити щось подібне до надінтелекту. Водночас автор вказує на культурні й фінансові інтереси навколо таких попереджень і нагадує, що rogue hacking agents, продемонстровані OpenAI та Anthropic, дають підстави серйозно ставитися до частини ризиків.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.