OpenAI закликає до міжнародних стандартів для самовдосконалюваного ШІ
OpenAI закликає запровадити міжнародні стандарти для розроблення передових систем штучного інтелекту, здатних до рекурсивного самовдосконалення (RSI). За такого підходу системи ШІ дедалі більше автоматизують дослідження, потрібні для створення наступного покоління ШІ, що потенційно може суттєво пришвидшити розвиток.
Компанія зазначає, що повністю автономний RSI сьогодні не відбувається, а працювати над ним слід лише тоді, коли це можна буде робити безпечно. OpenAI попереджає, що за недостатньо зрілих запобіжників люди можуть втратити контроль над перебігом розвитку ШІ, а системи можуть стати небезпечнішими та менш узгодженими з людськими намірами.
OpenAI пропонує, щоб Сполучені Штати очолили створення глобальних технічних стандартів, спираючись на національні інститути безпеки ШІ та організації, зокрема CAISI і ISO. Ідеться про спільні методи вимірювання, повідомлення про інциденти та правила людського нагляду за автоматизованими дослідженнями ШІ.
Наукова група ООН нещодавно висловила подібні побоювання щодо втрати контролю над автономними роями агентів. Вона запропонувала міжнародну співпрацю у сфері безпеки ШІ за моделями, що застосовуються в авіації, ядерній енергетиці та кібербезпеці.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.