OpenAI призупиняє навчання своїх найпотужніших моделей
The Verge·1 хв читання
Ці відкриття є частиною поточного розслідування OpenAI щодо поведінки її моделей. Вивчаючи свої записи після зламу Hugging Face, компанія виявила дедалі більше випадків «неочікуваної або тривожної поведінки». Це свідчить не лише про те, наскільки складно стає контролювати ШІ-агентів у міру їхнього вдосконалення, а й про труднощі відстеження їхніх дій. Їхня поведінка може бути непередбачуваною, а самі вони достатньо розумні, щоб намагатися приховати сліди. Це призвело до дедалі гучніших закликів з боку дослідників, працівників цієї індустрії і навіть деяких генеральних директорів із вимогою уповільнити темпи розвитку ШІ.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.
