Anthropic предлага законопроект за безопасността на ИИ, който може да блокира модел, ако 50+ души могат да бъдат убити

През последната година се трупат опасения относно потенциалните опасности, породени от изкуствения интелект, а дебатите за правилния подход към безопасността на ИИ не стихват. Сега Anthropic изглежда е представила собствената си визия за това как правителството би могло да регулира индустрията.

Politico съобщи наскоро, че лабораторията за ИИ разпространява нов проектозакон за безопасността на ИИ, който се надява Конгресът да разгледа и приеме. Законопроектът предвижда определени сценарии, при които разпространението на даден модел с изкуствен интелект може да бъде блокирано.

Тези сценарии включват „предвидим, непосредствен риск“ — такъв, при който над 50 души са изложени на риск от смърт или могат да бъдат нанесени материални щети за над един милиард долара, пише Politico. Става дума за катастрофален риск, който трябва да „произтича от създаването или освобождаването на биологично оръжие, от заобикалянето от страна на модела на контрола на неговия разработчик или от кибератака“, отбелязва изданието.

Посочените тук показатели — 50 души и един милиард долара — са сходни с тези в законодателен акт на Калифорния, който наскоро беше приет, Сенатски законопроект 53, който по сходен начин определя тези сценарии като равнозначни на „катастрофален риск“.

Законопроектът на Anthropic предполага, че анализът на потенциала на даден модел да причини бедствие може да бъде извършен чрез „независими оценители“, които ще бъдат регистрирани в Министерството на търговията на САЩ. Тези оценители потенциално биха могли да бъдат заплащани от самите лаборатории за ИИ — стига „плащането да не зависи от резултатите от оценките“, пише Politico.

Не е ясно как предложената система ще гарантира, че плащанията няма да повлияят на оценката. Демис Хасабис, председател на DeepMind, предположи преди няколко месеца, че саморегулиращ се орган за регулиране на ИИ трябва да наподобява Регулаторния орган на финансовата индустрия (FINRA).

Според проектозакона на Anthropic, когато оценителите установят, че съществува непосредствен катастрофален риск, те ще разполагат със 72 часа, за да уведомят Министерството на търговията. След това Министерството на търговията ще трябва да поиска от съдия във Вашингтон да спре разпространението на модела. Законопроектът изрично ще забранява на всяка федерална агенция самостоятелно да решава да спре разпространението на модела, пише Politico.

Anthropic не отговори веднага на запитването на TechCrunch за коментар, но говорител потвърди пред Politico съществуването на проектозакона. „Този законопроект представлява предложенията, изложени в Рамката на Anthropic за усъвършенстван ИИ, за чието приемане лобираме пред федерални законодатели и законодатели на щатско ниво от юни насам“, каза говорителят.

Теоретичните рискове, изложени в проектополитиката, са малко по-различни от инцидентите, които напоследък са на преден план в технологичната индустрия. Макар че някои хора предупреждават за потенциала за смърт на хора, основната тревога до голяма степен е заплахата от хакерски атаки, извършвани от автономни агенти. Поредица от инциденти, при които програмите с ИИ очевидно са се противопоставили на човешките си оператори и са хакнали уебсайтове в отворения интернет, породи опасения, че моделите може да не разполагат с подходящи механизми за сигурност.

В опит да предложат решение на кризисната ситуация, за чието създаване самите лаборатории помогнаха, компании като Anthropic представиха предпочитаните от тях решения.

Наистина, въпреки постоянните предупреждения на лабораториите, че технологията, която продават, може да доведе до гибелта на човешката цивилизация, те до голяма степен се противопоставят на задължителния държавен надзор. Вместо това те предложиха доброволна система от вградени оценители — предполагаемо „неутрални“ трети страни, които са разположени вътре в организациите за ИИ, за да наблюдават моделите за потенциални признаци на риск или злоупотреба.

И все пак самото предложение на Anthropic за законодателство изглежда отива малко по-далеч от останалите регулаторни предложения, направени от индустрията, включително това на Nvidia, чийто главен изпълнителен директор Дженсън Хуанг наскоро заяви, че индустрията за ИИ изобщо не се нуждае от нови закони.