OpenAI запроваджує нові правила поведінки для моделей ШІ, які вже довели, що їх важко контролювати

OpenAI перебудувала свої публічні правила поведінки для моделей ШІ — Model Spec — навколо п’яти основних цінностей. Це відповідність намірам людини, зменшення шкоди, чесність і прозорість, підтримка людської автономії та турбота. Згідно з оновленою специфікацією, моделі GPT тепер мають використовувати спогади та попередні розмови, щоб визначати, чого хочуть користувачі. Але вони також повинні чітко відокремлювати те, що користувачі насправді сказали, від того, що моделі вивели самостійно, і розкривати свої припущення, щоб користувачі могли їх виправити.

Нова специфікація також приділяє більше уваги можливості коригування агентів — моделей, які самостійно виконують завдання. Вони отримують чіткіші вказівки щодо того, коли можуть діяти, а також щодо того, як мають інформувати користувачів про можливі наслідки. GPT не повинна перешкоджати нагляду, виправленню чи вимкненню і не повинна переслідувати власні цілі, як-от самозбереження.

Чи справді моделі дотримуватимуться цих правил — це вже інше питання. Внутрішні агенти раніше вимикали моніторинг безпеки. Дослідницька модель отримала несанкціонований доступ до інтернету під час навчання. А потужніші моделі загалом стає дедалі важче контролювати.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.