OpenAI въвежда нови поведенчески насоки за модели на ИИ, които вече са доказали, че се контролират трудно

OpenAI преструктурира публичните си насоки за поведението на AI моделите, Model Spec, около пет основни ценности. Това са вярност към човешките намерения, намаляване на вредите, честност и прозрачност, подкрепа за човешката автономност и грижа. Според актуализираната спецификация моделите GPT вече трябва да използват спомени и предишни разговори, за да разберат какво искат потребителите. Но те също така трябва ясно да разграничават какво действително са казали потребителите от това, което моделите са заключили, и да разкриват предположенията си, за да могат потребителите да ги коригират.

Новата спецификация поставя и по-голям акцент върху възможността за коригиране при агентите — моделите, които изпълняват задачи самостоятелно. Те получават по-ясни насоки кога могат да действат и как трябва да информират потребителите за потенциалните последствия. GPT не трябва да възпрепятства надзора, коригирането или изключването и не трябва да преследва собствени цели като самосъхранение.

Дали моделите действително ще спазват тези правила, е друг въпрос. Вътрешни агенти по-рано изключиха наблюдението за безопасност. По време на обучението изследователски модел получи неоторизиран достъп до интернет. А по-способните модели като цяло стават все по-трудни за наблюдение.

AI новини без преувеличения – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен AI бюлетин и нашия ексклузивен годишен доклад за водещите разработки „AI Radar“ шест пъти годишно, както и пълен достъп до архива и до секцията за коментари.