Бивш служител описва ограниченията върху разговорите за AI рисковете
Вишал Майни, работил в екипа за комуникации и политики на DeepMind от 2018 до 2022 г., твърди, че лабораторията някога е забранявала публичното обсъждане на възможността изкуственият интелект да доведе до изчезване на човечеството. По думите му никой в организацията, независимо от нивото си, не е можел да комуникира външно по този въпрос. На изследователите е било препоръчвано да представят подобни опасения като алармизъм, да ги сравняват с филми като „Терминатор“ и да насочват разговора към полезни приложения в здравеопазването или климата.
Майни казва също, че вътрешно е било известно, че проблемът с привеждането на AI в съответствие с човешките цели не е решен и че твърде малко хора работят по него. След месеци на възражения DeepMind е смекчил правилото и е разрешил позитивно формулирани материали за безопасността, включително публикация в блог за риска от изчезване.
Според Майни разликата между вътрешното разбиране и публичните послания намалява, тъй като доказателствата за рисковете се отхвърлят все по-трудно. Междувременно повече изследователи предупреждават публично за модели, способни да улесняват опасни действия, и за системи, които могат да излязат извън човешки контрол.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.