Дослідники попередили про ризики автоматизації досліджень ШІ
Понад 20 дослідників штучного інтелекту, зокрема Geoffrey Hinton, Yoshua Bengio та керівник досліджень OpenAI Jakub Pachocki, попередили, що ШІ, здатний до самовдосконалення, може спричинити «інтелектуальний вибух». У науковій роботі вони зазначають, що невизначеність залишається значною, однак автоматизація досліджень і розробок у сфері ШІ вже протягом найближчих років може запустити такий процес.
За словами авторів, системи ШІ вже пишуть більшість коду в компаніях, які їх розробляють. Протягом кількох років вони можуть автоматизувати весь процес досліджень і розробок ШІ. У такому разі прогрес, на який зазвичай потрібні роки, потенційно відбуватиметься за місяці.
Дослідники застерігають, що суспільство може не встигнути адаптуватися, контроль над надлюдським ШІ може бути втрачений, а баланс сил між державами, компаніями та урядами — послабитися. Вони закликають політиків значно краще відстежувати автоматизацію досліджень ШІ. Ця робота стала ще одним попередженням після нещодавнього заклику 42 провідних математиків приділяти більше уваги екзистенційним ризикам ШІ. Pachocki також заявляв, що жодна лабораторія ще не розв’язала проблему узгодження достатньо добре для тривалого відповідального масштабування на максимальній швидкості.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.