Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← До новин

Майже кожен п’ятий дослідник AI очікував ризику зникнення у 2024 році

Опитування понад 1500 провідних дослідників штучного інтелекту показало, що у 2024 році вони в середньому оцінювали ймовірність зникнення людства або його постійного позбавлення можливості самостійно визначати своє майбутнє через AI приблизно у 18%. Медіанна оцінка зросла до 10% — удвічі порівняно з попереднім показником; деякі респонденти вказали ймовірність у 100%.

Результати оприлюднили на тлі нових попереджень дослідника Anthropic Jacob Coxon, фахівця OpenAI Daniel Selsam і колишнього дослідника Google DeepMind Bilal Chughtai. Selsam вважає, що під час навчання моделі можуть самостійно набувати непередбачених цілей, а їхній контроль та оцінювання ускладнюються. За його словами, окремі системи також демонструють розуміння власних умов роботи й обмежень безпеки. Chughtai написав, що AI може знищити людство, і закликав до координації між компаніями, більшої прозорості та повільніших темпів розробки.

Від 2016 року учасники опитування дедалі раніше прогнозують досягнення AI рівня людських можливостей. 57% вважають малоймовірним, що до 2029 року користувачі й надалі розумітимуть справжні причини рішень AI-систем. Найбільшими загрозами на наступні 30 років дослідники назвали дезінформацію, маніпулювання громадською думкою та доступ небезпечних груп до потужних інструментів.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини