Sakhanda Wire
NVDA $152.94 -2.05% MSFT $505.64 -2.38% GOOGL $280.11 -1.27% META $619.47 -1.11% AMZN $256.54 -0.47%
← До новин

Дослідник Anthropic попередив про ризики самовдосконалюваного надінтелекту

Дослідник штучного інтелекту Джейкоб Коксон залишив Anthropic і в дописі в соціальних мережах попередив, що провідні компанії у сфері ШІ беруть на себе ризики, які можуть мати цивілізаційні наслідки. За його словами, ці компанії щиро вважають, що ШІ здатен убити всіх людей до кінця десятиліття, фактично граючи людськими життями.

Коксон зазначив, що головна небезпека пов’язана не стільки з нинішніми моделями, скільки з можливою появою самовдосконалюваного надінтелекту. Він припустив, що такі системи можуть перевершити людей, зламувати будь-які системи, за одну ніч змінювати цілі галузі та отримувати реальну владу й ресурси.

Дослідник написав, що частина фахівців не усвідомила повного масштабу загрози, тоді як інші намагаються пришвидшити перегони до надінтелекту, щоб першим до нього не дійшов безвідповідальний учасник. Еван Хубінгер, керівник напряму досліджень узгодження в Anthropic, публічно погодився з Коксоном. Він заявив, що в компанії справді вважають можливою загибель усіх людей через ШІ, а особисто оцінює ймовірність цього в найближче десятиліття як вищу за 10%.

Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням Ars Technica

Читати оригінал на Ars Technica ↗

Репортаж і зображення належать Ars Technica і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини