Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← Към новините

Ръководител на ControlAI призовава за спиране на свръхинтелигентността

Конър Лийхи, изследовател и предприемач в областта на изкуствения интелект и изпълнителен директор на ControlAI в САЩ, смята, че рисковете от свръхинтелигентния AI вече са прекалено големи, за да бъдат овладени само чрез подравняване на целите и ограничаване на системите. В подкаста Equity той защити по-радикален подход: компаниите изобщо да не разработват свръхинтелигентност. По думите му тя трябва да се разглежда като противник, а не като оръжие.

В разговора бяха обсъдени неотдавнашни инциденти, свързани с безопасността на AI, включително пробивът на OpenAI в Hugging Face. Те бяха посочени като примери за възможните опасности при внедряване на системи, които превъзхождат хората по способности. Лийхи коментира и американския “Ban Superintelligence Act” на Sanders-Casar, както и сходно законодателство във Великобритания, по което ControlAI е консултирала. Той смята, че американският законопроект може да отиде по-далеч от необходимото.

Според Лийхи водещите AI лаборатории са не само компании, търсещи печалба, а и политически актьори, което има значение на фона на трилионите долари за изграждане на центрове за данни. Той определи като възможна граница момента, в който AI започне да създава по-добър AI, предизвиквайки самоускоряващ се цикъл. Лийхи подкрепи международни споразумения по принципа „доверявай, но проверявай“ и заяви, че според него разработването на свръхинтелигентност не е в интерес на Китай.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини