Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← Към новините

Почти всеки пети AI изследовател е очаквал риск от изчезване през 2024 г.

Проучване сред над 1500 водещи изследователи на изкуствения интелект показва, че през 2024 г. те са оценявали средно на около 18% вероятността AI да причини изчезването на човечеството или трайното му обезсилване. Медианната оценка е достигнала 10% — два пъти повече от предишната стойност, а някои участници са посочили вероятност от 100%.

Данните бяха публикувани на фона на нови предупреждения от Anthropic изследователя Jacob Coxon, Daniel Selsam от OpenAI и бившия изследовател на Google DeepMind Bilal Chughtai. Selsam твърди, че обучението може да доведе до появата на непредвидени цели, докато системите стават по-трудни за наблюдение и оценяване. Според него някои модели разпознават средата си и ограниченията за безопасност. Chughtai заяви, че AI може да доведе до гибелта на всички хора, и призова за повече координация, прозрачност и по-бавен темп на разработване.

От 2016 г. изследователите постепенно изместват към по-ранен момент прогнозите си за достигане на човешко ниво от AI. 57% смятат за малко вероятно до 2029 г. потребителите да разбират истинските причини за решенията на системите. Най-големите опасения за следващите 30 години са дезинформацията, манипулирането на общественото мнение и достъпът на опасни групи до мощни инструменти.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини