Понад 20 провідних дослідників ШІ попереджають, що автоматизовані дослідження ШІ несуть надзвичайні ризики

Якщо вам було недостатньо попереджень, ось ще одне попередження про ШІ: Понад 20 дослідників у сфері ШІ, зокрема Джеффрі Хінтон, Йошуа Бенжіо та керівник досліджень OpenAI Якуб Пахоцький, у новій дослідницькій статті попереджають про можливий «вибух інтелекту», спричинений ШІ, здатним до самовдосконалення. «Хоча невизначеність усе ще залишається значною, автоматизація досліджень і розробок у сфері ШІ може невдовзі його запустити», — пишуть вони.

Згідно з дослідженням, системи ШІ вже пишуть більшість коду в компаніях, які їх розробляють, і протягом кількох років можуть автоматизувати весь процес досліджень і розробок у сфері ШІ. Прогрес, на який зазвичай потрібні роки, тоді можна буде досягати за лічені місяці. Автори попереджають, що суспільство може не встигнути за цими змінами, контроль над надлюдським ШІ може вислизнути з рук, а баланс сил між державами, компаніями та урядами може бути підірваний. Вони закликають політиків отримати набагато чіткіше уявлення про те, як автоматизуються дослідження у сфері ШІ.

Ця стаття поповнює дедалі довший список попереджень. Нещодавно 42 провідні математики закликали приділяти більше уваги екзистенційним ризикам, пов’язаним із ШІ, кілька співробітників лабораторій ШІ висловили побоювання, що ШІ може знищити людство, а сам Пахоцький заявив, що жодна лабораторія не розв’язала проблему узгодження достатньо добре, «щоб і надалі відповідально масштабувати [розробки] на максимальній швидкості протягом значно тривалішого часу». Як повідомляється, деякі співробітники Anthropic уже шукають безпечні місця на випадок, якщо ШІ вийде з-під контролю.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку новин про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.