OpenAI призовава за международни стандарти за изкуствен интелект, който може да се самоусъвършенства

OpenAI настоява за международни стандарти за разработването на усъвършенстван изкуствен интелект, като се фокусира върху рекурсивното самоусъвършенстване (RSI). При RSI системите с изкуствен интелект все повече автоматизират изследванията, необходими за създаването на следващото поколение изкуствен интелект, което потенциално може да ускори значително напредъка. „Напълно автономно RSI не се случва днес“, пише OpenAI и то трябва да бъде преследвано само „докато не може да бъде осъществено безопасно“. Без зрели механизми за сигурност хората могат да изгубят представа за развитието на изкуствения интелект, а той може да стане „по-опасен, по-малко съобразен с човешките цели и като цяло заплаха за хората“.

OpenAI предлага САЩ да поемат водеща роля в създаването на глобални технически стандарти, надграждайки върху националните институти за безопасност на изкуствения интелект и организации като CAISI и ISO. Това би включвало общи методи за измерване, докладване на инциденти и правила за човешки надзор над автоматизираните изследвания на изкуствения интелект. Наскоро научна група на ООН изрази подобни опасения, предупреждавайки за загуба на контрол над рояци от автономни агенти и предлагайки международно сътрудничество за безопасността на изкуствения интелект по модел на рамките за авиацията, ядрената енергетика и киберсигурността.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен годишен доклад „AI Radar“ за водещите технологии, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.