О, чудесно — май това е поредният рой самоволни ИИ агенти от OpenAI
The Verge·1 мин четене
Поведението на OpenAI — както това дали е имало инцидент, така и, ако е имало, дали компанията е решила да запази това в тайна — ще бъде наблюдавано отблизо. Ако роякът наистина е произлязъл от OpenAI, това неизбежно ще засили опасенията, че познанията и мълчанието на компанията са съвпаднали с уверяването на регулаторите, законодателите и технологичната индустрия, че тя приема безопасността сериозно след хакерската атака срещу Hugging Face. Въпреки че позволи на трима външни изследователи от METR и Redwood Research да оценят инцидента, който се оказа далеч по-сериозен от първоначално смятаното, компанията беше остро критикувана в средите за безопасност на ИИ, че го е направила само при строги условия, които са оставили няколко важни елемента „извън обхвата“. Компанията също така се подготвяше за пускането на GPT-6 Astra, който според изследователи може да се окаже опасно труден за наблюдение.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
