Изследователи предупреждават за рискове от автоматизирани AI изследвания
Повече от 20 изследователи в областта на изкуствения интелект, сред които Geoffrey Hinton, Yoshua Bengio и ръководителят на изследванията в OpenAI Jakub Pachocki, предупреждават, че самоусъвършенстващият се AI може да предизвика „интелектуална експлозия“. В научна статия те посочват, че несигурността остава голяма, но автоматизирането на научноизследователската и развойната дейност в AI може скоро да постави началото на такъв процес.
Според авторите AI системите вече пишат по-голямата част от кода в компаниите, които ги разработват. В рамките на няколко години те биха могли да автоматизират целия процес на AI изследвания и разработки, така че напредък, изискващ обичайно години, да бъде постигнат за месеци.
Изследователите предупреждават, че обществото може да не успее да се адаптира навреме, контролът над свръхчовешки AI да бъде изгубен, а балансът на силите между държави, компании и правителства да се разклати. Те призовават политиците да получат много по-добра видимост върху автоматизирането на AI изследванията. Статията се присъединява към други предупреждения, включително неотдавнашен призив на 42 водещи математици за повече внимание към екзистенциалните рискове от AI.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.