Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← Към новините

Бивш служител описва ограниченията върху разговорите за AI рисковете

Вишал Майни, работил в екипа за комуникации и политики на DeepMind от 2018 до 2022 г., твърди, че лабораторията някога е забранявала публичното обсъждане на възможността изкуственият интелект да доведе до изчезване на човечеството. По думите му никой в организацията, независимо от нивото си, не е можел да комуникира външно по този въпрос. На изследователите е било препоръчвано да представят подобни опасения като алармизъм, да ги сравняват с филми като „Терминатор“ и да насочват разговора към полезни приложения в здравеопазването или климата.

Майни казва също, че вътрешно е било известно, че проблемът с привеждането на AI в съответствие с човешките цели не е решен и че твърде малко хора работят по него. След месеци на възражения DeepMind е смекчил правилото и е разрешил позитивно формулирани материали за безопасността, включително публикация в блог за риска от изчезване.

Според Майни разликата между вътрешното разбиране и публичните послания намалява, тъй като доказателствата за рисковете се отхвърлят все по-трудно. Междувременно повече изследователи предупреждават публично за модели, способни да улесняват опасни действия, и за системи, които могат да излязат извън човешки контрол.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини