Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

Изследователи предупреждават за рискове от автоматизирани AI изследвания

Повече от 20 изследователи в областта на изкуствения интелект, сред които Geoffrey Hinton, Yoshua Bengio и ръководителят на изследванията в OpenAI Jakub Pachocki, предупреждават, че самоусъвършенстващият се AI може да предизвика „интелектуална експлозия“. В научна статия те посочват, че несигурността остава голяма, но автоматизирането на научноизследователската и развойната дейност в AI може скоро да постави началото на такъв процес.

Според авторите AI системите вече пишат по-голямата част от кода в компаниите, които ги разработват. В рамките на няколко години те биха могли да автоматизират целия процес на AI изследвания и разработки, така че напредък, изискващ обичайно години, да бъде постигнат за месеци.

Изследователите предупреждават, че обществото може да не успее да се адаптира навреме, контролът над свръхчовешки AI да бъде изгубен, а балансът на силите между държави, компании и правителства да се разклати. Те призовават политиците да получат много по-добра видимост върху автоматизирането на AI изследванията. Статията се присъединява към други предупреждения, включително неотдавнашен призив на 42 водещи математици за повече внимание към екзистенциалните рискове от AI.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини