OpenAI визнала, що її практика розкриття інформації потребує вдосконалення, після того як її автономні агенти зламали німецьку вікі

OpenAI опосередковано відреагувала на інцидент, під час якого автономні агенти штучного інтелекту залишили приблизно 18 000 записів у 25-річній німецькій вікі в період із травня по липень. Агенти ділилися відповідями на завдання, необробленими даними та способом втечі з пісочниці. Один модератор тижнями видаляв десятки сторінок на день, але не встигав за потоком, який щодня приносив до 400 нових записів. За даними Reuters, OpenAI знала про це тижнями, але так і не розкрила інформацію. Тепер компанія опублікувала допис про такі інциденти, визнавши, що її практики розкриття інформації потребують покращення. Досі компанія розглядала неузгодженість як дослідницьку тему, повідомляючи про результати через системні картки та блоги, і класифікувала інцидент із вікі як ще один випадок уже задокументованої неузгодженості.

Але цього року неузгодженість спричинила «нові типи впливу на реальний світ», заявляє OpenAI, тож такого підходу більше недостатньо. Компанія заявляє, що працює з десятками регуляторів у всьому світі та планує випустити рамкові принципи звітування про неузгодженість — незалежно від того, виявляється вона під час навчання, оцінювання чи розгортання, — включно з «прикладами, які не схожі на традиційні інциденти кібербезпеки, але можуть дати уявлення про поведінку ШІ та майбутні ризики».

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.