OpenAI призовава за международни стандарти за самоусъвършенстващ се AI
OpenAI призовава за международни стандарти при разработването на усъвършенствани системи с изкуствен интелект, способни на рекурсивно самоусъвършенстване (RSI). При този процес AI системите все повече автоматизират изследванията, необходими за създаването на следващото поколение AI, което може значително да ускори развитието.
Компанията заявява, че напълно автономен RSI не се осъществява днес и трябва да бъде развиван само когато това може да се прави безопасно. OpenAI предупреждава, че при недостатъчно развити защитни механизми хората могат да изгубят представа за хода на разработването, а AI системите да станат по-опасни и по-слабо съобразени с човешките намерения.
OpenAI предлага Съединените щати да поведат създаването на глобални технически стандарти, надграждайки работата на национални институти за безопасност на AI и организации като CAISI и ISO. Предложението включва общи методи за измерване, докладване на инциденти и правила за човешки надзор над автоматизирани AI изследвания.
Научен панел на ООН наскоро изрази сходни опасения за възможна загуба на контрол над автономни рояци от агенти. Панелът предложи международно сътрудничество за безопасността на AI по модели от авиацията, ядрената енергетика и киберсигурността.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.