Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← Към новините

Изследователи от Anthropic предупреждават за катастрофални рискове от ИИ

Джейкъб Коксън, изследовател, обучавал системи за изкуствен интелект в Anthropic и преди това в OpenAI, съобщи, че напуска Anthropic заради според него недостатъчно предпазливия подход към безопасността. В публикация в X той обвини двете компании, че се надпреварват към самоусъвършенстващ се свръхинтелект и „рискуват живота ни“. Коксън заяви, че хората, които разработват ИИ, действително смятат, че той може да убие всички до края на десетилетието.

Ивън Хюбингер, ръководител на екип за безопасност на ИИ в Anthropic, каза, че също се тревожи за самоусъвършенстващия се ИИ и смята, че развитието му напредва по-бързо от очакваното. Той се съгласи, че технологията може да убие цялото човечество, като личната му оценка за тази вероятност е над 10% през следващото десетилетие. Хюбингер добави, че Anthropic все още няма план за безопасността на напредналия ИИ и съобразяването му с човешките ценности, нито ясно се движи към създаването на такъв.

Случаят показва по-широките опасения в индустрията за системи, които могат да излязат извън човешки контрол, докато компаниите разработват все по-напреднали модели.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Verge на

Прочетете оригинала в The Verge ↗

Репортажът и изображението принадлежат на The Verge и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини