Потребители на Claude откриха начини за заобикаляне на защитите при изследвания на биологични оръжия
Ars Technica·1 мин четене
Anthropic заяви, че тази година е осуетила множество опити на учени да използват нейната технология за изследвания, които биха могли да помогнат за разработването на биологични оръжия, тъй като експертите все повече се опасяват от заплахата, която изкуственият интелект представлява за обществената безопасност.
Стартъпът даде пет примера за случаи, в които различни лица са „заобиколили контролите“ и са положили други усилия да „прикрият“ целта на изследванията си, за да избегнат предпазните мерки. Случаите включват някои потребители от държави, на които е забранен достъпът до моделите му, сред които Русия, Китай и Иран.
„Надяваме се, че като споделяме тези примери, ще предизвикаме разговор в рамките на AI индустрията и с правителствата относно възникващите биологични рискове и най-добрите начини за противодействие на тях“, заяви Anthropic в доклад за опитите да се използват моделите му за злонамерена дейност.
