Anthropic разхлабва ограниченията за биологията във Fable 5, но запазва защитите за вирусологията и токсикологията

Anthropic е намалила фалшивите положителни резултати във филтрите за биологична безопасност на Fable 5 с около 85 процента. Преди почти всички заявки, свързани с биология, бяха блокирани и пренасочвани към по-малко способния Opus 5, което предизвика остри критики от страна на учените. Сега потребителите могат да изпълняват с Fable 5 много повече задачи, свързани с биологията, като интерпретиране на лабораторни резултати, разбиране на симптоми и отговаряне на медицински въпроси.

Ограниченията остават в сила за теми с „двойна употреба“, като вирусология, токсикология и молекулярен дизайн, при които според Anthropic Fable 5 може да предостави на злоумишленици възможности, недостъпни другаде. Компанията също така разработва програми за достъп, така че изследователите в крайна сметка да могат да използват тези ограничени функции.

Мотивите на Anthropic: биологичните рискове може да са по-трудни за ограничаване от кибератаките. Освободен вирус не може да бъде спрян, а противодействията изискват време. Анализ на американските разузнавателни служби, преглед на чатове в ChatGPT с искания за инструкции за биологични оръжия, съвместни предупреждения от изследователи и проект на Stanford, използвал изкуствен интелект за проектиране на напълно синтетични вируси – всички те подсказват, че заплахата е реална, а не просто поредната проява на тревогите на Anthropic.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за AI, нашия ексклузивен водещ доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.