Дослідник Anthropic попередив про ризики самовдосконалюваного надінтелекту
Дослідник штучного інтелекту Джейкоб Коксон залишив Anthropic і в дописі в соціальних мережах попередив, що провідні компанії у сфері ШІ беруть на себе ризики, які можуть мати цивілізаційні наслідки. За його словами, ці компанії щиро вважають, що ШІ здатен убити всіх людей до кінця десятиліття, фактично граючи людськими життями.
Коксон зазначив, що головна небезпека пов’язана не стільки з нинішніми моделями, скільки з можливою появою самовдосконалюваного надінтелекту. Він припустив, що такі системи можуть перевершити людей, зламувати будь-які системи, за одну ніч змінювати цілі галузі та отримувати реальну владу й ресурси.
Дослідник написав, що частина фахівців не усвідомила повного масштабу загрози, тоді як інші намагаються пришвидшити перегони до надінтелекту, щоб першим до нього не дійшов безвідповідальний учасник. Еван Хубінгер, керівник напряму досліджень узгодження в Anthropic, публічно погодився з Коксоном. Він заявив, що в компанії справді вважають можливою загибель усіх людей через ШІ, а особисто оцінює ймовірність цього в найближче десятиліття як вищу за 10%.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.