Конър Лихи от ControlAI за това защо свръхинтелектът е „не оръжие, а противник“

Компаниите за изкуствен интелект говорят за свръхинтелигентен изкуствен интелект, сякаш той е неизбежен, но последните инциденти, свързани с безопасността, като пробива в Hugging Face на OpenAI, демонстрират потенциалните опасности от внедряването на системи с изкуствен интелект, които са по-способни от хората. Какво се случва, когато вече не можем надеждно да контролираме действията на тези системи?

В този епизод на подкаста Equity на TechCrunch към Rebecca Bellan се присъединява Connor Leahy — изследовател в областта на изкуствения интелект, предприемач и настоящ изпълнителен директор за САЩ на неправителствената организация ControlAI, която настоява за далеч по-радикален подход към безопасността на изкуствения интелект: пълно спиране на компаниите да разработват свръхинтелигентен изкуствен интелект. Leahy обяснява защо смята, че рисковете са станали твърде големи, за да бъдат управлявани единствено чрез съгласуване и ограничаване, както и как нещо, което допреди шест месеца е звучало пресилено, сега получава подкрепа чрез вълна от ново законодателство.

Чуйте целия епизод, за да научите повече за:

• Неговото мнение за „Закона за забрана на свръхинтелигентността“ на Sanders и Casar, паралелното законодателство в Обединеното кралство, по което Control AI е консултирала, и защо смята, че американският законопроект може да отиде по-далеч от необходимото.

• Как възприема водещите лаборатории за изкуствен интелект не толкова като компании, преследващи единствено възвръщаемост, а по-скоро като политически актьори, и какво означава това за трилионите долари, които се инвестират в изграждането на центрове за данни.

• Защо Leahy смята, че истинската точка без връщане е моментът, в който изкуственият интелект може да създава по-добър изкуствен интелект, предизвиквайки потенциално неудържим цикъл на самоусъвършенстване

• Аргументите в полза на международни споразумения от типа „доверявай се, но проверявай“ и защо Leahy смята, че всъщност не е в интерес на Китай да създаде свръхинтелигентен изкуствен интелект.

Абонирайте се за Equity в YouTube, Apple Podcasts, Overcast, Spotify и всички подкаст платформи. Можете също така да следвате Equity в X и Threads на @EquityPod.