Подкаст разглежда призивите за спиране на свръхинтелигентността
Компаниите за изкуствен интелект все по-често представят свръхинтелигентните системи като неизбежно развитие. Междувременно неотдавнашни инциденти със сигурността, включително пробивът на OpenAI в Hugging Face, повдигнаха въпроси за рисковете при внедряването на системи, които могат да надминат човешките способности.
В епизод на подкаста Equity водещата Rebecca Bellan разговаря с Connor Leahy — изследовател на изкуствения интелект, предприемач и изпълнителен директор за САЩ на неправителствената организация ControlAI. Организацията настоява компаниите да спрат разработването на свръхинтелигентност, вместо да разчитат единствено на методи за съгласуване и ограничаване на тези системи.
Leahy смята, че рисковете вече са твърде големи, за да бъдат управлявани само чрез съгласуване и ограничаване. Той обсъжда и защо идея, звучала доскоро като нереалистична, сега получава подкрепа чрез нова вълна от законодателни инициативи. Епизодът е достъпен в YouTube, Apple Podcasts, Overcast, Spotify и други подкаст услуги.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.