OpenAI закликає до міжнародних стандартів для ШІ, здатного до самовдосконалення

OpenAI виступає за міжнародні стандарти розробки передового ШІ, зосереджуючись на рекурсивному самовдосконаленні (RSI). Завдяки RSI системи ШІ дедалі більше автоматизують дослідження, необхідні для створення наступного покоління ШІ, що потенційно може суттєво пришвидшити прогрес. «Повністю автономне RSI сьогодні не відбувається», пише OpenAI, і його слід розвивати лише «доти, доки це не можна буде робити безпечно». Без зрілих запобіжних механізмів люди можуть втратити контроль над розвитком ШІ, а ШІ може стати «небезпечнішим, менш узгодженим із людськими цілями та загалом становити загрозу для людей».

OpenAI пропонує, щоб США очолили розробку глобальних технічних стандартів, спираючись на національні інститути безпеки ШІ та такі організації, як CAISI та ISO. Це передбачало б спільні методи вимірювання, звітування про інциденти та правила людського нагляду за автоматизованими дослідженнями ШІ. Нещодавно наукова панель ООН висловила подібні побоювання, попередивши про втрату контролю над роями автономних агентів і запропонувавши міжнародну співпрацю у сфері безпеки ШІ за моделлю систем авіаційної безпеки, ядерної енергетики та кібербезпеки.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.