Паніка навколо безпеки ШІ виходить у мейнстрим після того, як попередження дослідника Anthropic пролунали на CNN і Fox News

Ідея про те, що ШІ може знищити людство, офіційно вийшла в мейнстрим. Попередження дослідника Anthropic Джейкоба Коксона, який залишає компанію, про самовдосконалюваний ШІ як екзистенційну загрозу викликали достатній резонанс, щоб він потрапив на CNN та Fox News. Кілька американських політиків підхопили цю тему в соцмережах, а Джо Роган присвятив безпеці ШІ цілий випуск.

Інші дослідники безпеки в Anthropic і OpenAI підтримали погляди Коксона. Пол Крістіано попередив, що без кращого нагляду людство може назавжди втратити контроль над надінтелектом. Крістіано щойно приєднався до ради OpenAI Foundation та її Комітету з безпеки й захисту, який наглядає за практиками компанії у сфері безпеки, хоча й не має права голосу.

Якщо це змушує вас тривожитися, не панікуйте. За цими попередженнями стоять численні рівні культурних і фінансових інтересів. Це не означає, що всі побоювання щодо безпеки є безглуздими, адже некеровані хакерські агенти від OpenAI та Anthropic уже це продемонстрували. Але повний сценарій вимирання залишається екстремальною та спірною позицією. Також незрозуміло, чи може з сучасних технологій взагалі виникнути щось схоже на надінтелектуальний ШІ. Тож це може бути просто масовий психоз Кремнієвої долини. А може, й ні — у такому разі бажаємо успіху.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.