Бивш PR служител на DeepMind: лабораторията някога е забранявала публичното обсъждане на риска от изчезване на човечеството заради ИИ

Не е изненадващо, но все пак е показателно. Вишал Майни, който е работил в екипа по комуникации и политики на DeepMind от 2018 до 2022 г., казва, че „външната комуникация относно възможността за изчезване на човечеството не беше разрешена от никого и на нито едно ниво в организацията“. Изследователите са били обучавани да отхвърлят тези рискове като алармизъм, да ги сравняват с „филми като „Терминатор““ и вместо това да насочват разговора към положителни приложения в здравеопазването или климатичната сфера.

Вътрешно екипът е знаел, че проблемът с привеждането на ИИ в съответствие с човешките ценности не е решен и че „твърде малко хора работят по този проблем“. След месеци на настояване DeepMind е смекчила правилото. Съдържание за безопасността, представено в положителна светлина, е получило зелена светлина, включително публикация в блог, която представя риска от изчезване на човечеството с приятелски тон. Майни казва, че разликата между вътрешното знание и публичните послания се свива, „защото доказателствата вече по-трудно могат да бъдат отхвърлени“.

Разказът му идва в момент, когато все повече изследователи на безопасността на ИИ говорят публично, предупреждавайки за незащитени модели, които могат да позволят опасни действия, или за усъвършенствани системи, които могат да излязат извън човешкия контрол. Изследователи от самата DeepMind са сред тези, които повишават глас.

Новини за ИИ без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.