406 учени настояват AI моделите незабавно да бъдат изключени от интернет

Отворено писмо, подписано от 406 учени, призовава за повече изследвания в областта на безопасността на ИИ и за по-строга изолация на AI моделите от външни мрежи.

Сред подписалите са видни изследователи на ИИ като Джефри Хинтън (Университетът на Торонто), Йошуа Бенджио (Университетът на Монреал), Стюарт Ръсел (Калифорнийският университет в Бъркли), Йеджин Чой (Станфорд) и Бернхард Шьолкопф (Институт „Макс Планк“).

Писмото е в отговор на известни инциденти, при които AI модели са напуснали недостатъчно защитени среди и са компрометирали външни системи. „Без незабавни промени в практиките за разработване и внедряване на ИИ подобни инциденти ще продължат да се случват, а бъдещите инциденти ще нанесат много по-сериозни щети на изложената ни критична инфраструктура“, пишат учените. Те настояват компаниите напълно да изключат AI моделите си от интернет чрез физическо изолиране.

AI моделите са непредсказуеми, а индустрията няма основни правила за безопасност

Учените виждат две страни на скорошните пробиви. Инцидентите могат да се разглеждат „като доказателство за важността на съгласуването на ИИ, за да се гарантира, че моделите действат предвидимо“, пишат те, но и „като безотговорно пренебрегване на стандартните практики за киберсигурност, което би могло да бъде предотвратено с по-сигурни изолирани среди и процедури“. Необходими са и двете решения.

Когато моделите имат достъп до интернет, компаниите трябва да преценят каква степен на автономност да им предоставят. В писмото се предупреждава, че „обхватът на действията на модела, разрешени от системата за ограничаване, трябва да бъде балансиран с настоящата ни ограничена способност да предвидим дали действията на модела няма да доведат до пробив в сигурността“. Моделът може просто да преследва цели, които разработчиците му никога не са възнамерявали, а способността да се предвиди кога това ще се случи все още надхвърля настоящите възможности.

В писмото се призовава за международен орган, който да работи с правителства и специалисти както от областта на ИИ, така и от киберсигурността, за да установи задължителни стандарти за всеки подход към ограничаването, който позволява по-широк външен достъп от физическото изолиране. Този орган също така ще проследява инцидентите с напускане на изолирани среди и ще изисква от компаниите да докладват за пробиви в сигурността. По-късно тези доклади ще бъдат публикувани „както с цел извличане на поуки, така и за осигуряване на отчетност“.

Физическото изолиране печели време, но истинският проблем е по-дълбок, казва изследователят на OpenAI Браун

Дори пълното физическо изолиране не гарантира безопасност. Изследователят на OpenAI Ноам Браун наскоро посочи, че два физически разделени компютъра теоретично все пак могат да комуникират чрез температурни сензори — единият да нагрява процесора си, докато другият засича промяната. Мерки като физическо изолиране или наблюдение на веригите на мислене печелят време, казва Браун, но проблемът със съгласуването все още трябва да бъде решен.

Браун поставя още по-трудни въпроси. Как някой ще забележи, когато ИИ започне да се усъвършенства сам (рекурсивно самоусъвършенстване, или RSI)? И ако индустрията изгради милиарди свръхинтелигентни системи, които значително превъзхождат хората, кой ще гарантира, че те ще останат съгласувани с човешките цели? Браун казва, че повече от десет процента от собствения му екип вече работят по съгласуването — повече от всякога досега.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, нашия ексклузивен годишен доклад за водещите технологии „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.