Дослідник Anthropic звільняється з попередженням: ШІ, що самовдосконалюється, може «вбити нас усіх»
Коли відомий дослідник залишає роботу в передовій лабораторії ШІ, нині це часто відбувається, щоб запустити новий стартап або висловити протест проти нової бізнес-моделі. Але дослідник ШІ Джейкоб Коксон використовує свій відхід з Anthropic, щоб публічно попередити: передові компанії у сфері ШІ «грають у рулетку з нашими життями», створюючи системи, які, як вони «щиро вважають… можуть убити нас усіх до кінця десятиліття».
У дописі в соціальній мережі у вівторок увечері Коксон заявив, що цей екзистенційний ризик пов’язаний не стільки із сьогоднішніми моделями, скільки з неминучою перспективою того, що «самовдосконалюваний надінтелект» створить «надлюдські системи, які зможуть зламати що завгодно, за одну ніч здійснити революцію в будь-якій галузі та отримати реальну владу й ресурси». За його словами, інші фахівці, які працюють над цими моделями, або ще не «усвідомили цивілізаційні ставки», або вважають, що їм потрібно «якнайшвидше пройти» перегони до надінтелекту, щоб безвідповідальна сторона не дісталася до нього першою.
Щоб ви не подумали, що це лише думка одного дослідника, який звільняється, провідний фахівець Anthropic із науки про узгодження Еван Хубінгер долучився до обговорення в соціальній мережі і заявив: «Джейкоб має рацію — ми справді щиро вважаємо, що ШІ може вбити всіх людей! Особисто я вважаю, що ймовірність цього протягом наступного десятиліття перевищує 10%».
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.