Альтман, Маск і Хассабіс підтримали заклик Амодея додати незалежний нагляд

Генеральний директор OpenAI Сем Альтман і Ілон Маск підтримують заклики сповільнити розвиток ШІ. Альтман, Маск і колишній генеральний директор DeepMind Деміс Хассабіс щонайменше частково підтримали пропозиції генерального директора Anthropic Даріо Амодея, погодившись із необхідністю незалежного нагляду всередині лабораторій ШІ. Маск роками б’є на сполох через ризики ШІ, тож його підтримка не є великим сюрпризом.

Альтман також повідомив Fortune, що OpenAI не виходитиме на біржу цього року, пославшись на міркування безпеки. Ще в червні він уже повідомив про це рішення всередині компанії. Є й інше пояснення: фінансові показники OpenAI просто наразі не сприяють IPO, особливо порівняно з Anthropic. Правдивими можуть бути обидва пояснення.

Не всі з цим погоджуються. Дослідник Google Пейман Міланфар заперечив, стверджуючи, що рекурсивне самовдосконалення (RSI) є наївним припущенням, оскільки петлі зворотного зв’язку за своєю природою нестабільні. Що інтенсивніше система оптимізує саму себе, то глибше вона занурюється у сліпі зони, а надійні докази можна отримати лише з реального світу, а не з бенчмарків. На думку Міланфара, це робить «обмеження швидкості» Амодея непотрібним: «Системи, які надійно вдосконалюють себе, будуть регульованими, загальмованими, повільними й обмеженими межами, що здаватимуться марнотратними. Тому що стабільність — це і є обмеження швидкості».

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.