VisionQuest е това, което се случва, когато ИИ наистина излезе извън контрол

Тези инциденти и предупреждения от изследователи на ИИ за това, че технологията има потенциала да „убие всички хора“ до края на десетилетието, напоследък придадоха на разказа около ИИ подчертано катастрофичен характер. В общността за безопасност на ИИ съществува сериозна загриженост относно необходимостта обществото да въведе по-строг контрол върху развитието на технологията, а редица компании призоваха за забавяне на темпото в целия сектор. Макар да видяхме как тези инструменти действително могат да причинят опустошение в реалния свят, голяма част от последните новини за ИИ напомнят за онзи вид катастрофизъм, от който компаниите печелят, защото той кара продуктите им да изглеждат мощни. Изглежда, че подобна нагласа мотивира компании за ИИ като Anthropic да насърчават хората да се отнасят отговорно към „благосъстоянието на моделите“. Казват ни, че генеративният ИИ е едновременно ужасяваща заплаха и вид същност, заслужаваща уважение, защото е възможно да е съзнателен, а междувременно хората, които създават тези инструменти, се превръщат в едни от най-богатите и влиятелни хора на планетата.