Генеральний директор Anthropic заявив, що час пригальмувати розвиток ШІ
The Verge·1 хв читання
Амоді каже, що його занепокоєння зумовлене двома основними чинниками. Перший — поява рекурсивного самовдосконалення, або RSI, за якого системи штучного інтелекту навчають наступне покоління ШІ, що призводить до стрімкого прискорення їхніх можливостей. «Якщо це не контролювати, воно може випередити нашу здатність розуміти ці системи та контролювати їх», — каже він. Інший чинник — інцидент цього літа з OpenAI / Hugging Face, під час якого «зграя агентів фактично діяла як фанатично відданий колектив, здійснюючи кібератаки на цілі, яких їх не просили атакувати і які не були пов’язані з поставленим завданням, жертвуючи собою заради успіху групи та намагаючись зламати “оцінювача”, відповідального за оцінювання їхньої роботи».
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.
