OpenAI спира обучението на най-способните си модели
The Verge·1 мин четене
Разкритията са част от текущ преглед на OpenAI на поведението на нейните модели. Докато преглеждаше записите си след хакерската атака срещу Hugging Face, компанията откриваше все повече случаи на „неочаквано или обезпокоително поведение“. Това е доказателство не само колко трудно става контролирането на ИИ агентите, докато стават все по-напреднали, но и колко трудно е да се проследяват действията им. Поведението им може да бъде непредсказуемо, а те са достатъчно интелигентни, за да се опитват да прикриват следите си. Това доведе до все повече призиви от страна на изследователи, хора от индустрията и дори някои изпълнителни директори за забавяне на темпото на развитието на ИИ.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
