Предупрежденията за ИИ достигнаха американските медии
Джейкъб Коксън, напускащ изследовател на Anthropic, привлече широко внимание в САЩ с предупрежденията си за самоусъвършенстващ се изкуствен интелект. В CNN той заяви, че подобни системи могат да представляват екзистенциална заплаха за човечеството, а възгледите му бяха обсъдени и по Fox News. Няколко американски политици коментираха темата в социалните мрежи, а Джо Роган посвети цял епизод на безопасността на ИИ.
Други изследователи на безопасността от Anthropic и OpenAI са изразили подкрепа за опасенията на Коксън. Пол Кристиано предупреди, че без по-добър надзор човечеството може завинаги да изгуби контрол над свръхинтелигентна система. Наскоро той се присъедини към борда на OpenAI Foundation и към нейния Safety and Security Committee, който наблюдава практиките на компанията за безопасност, но няма право на глас.
Статията определя сценария с изчезване на човечеството като краен и спорен и отбелязва, че не е ясно дали днешните технологии изобщо могат да създадат нещо, подобно на свръхинтелигентност. Тя посочва и културни и финансови интереси около предупрежденията, като същевременно отбелязва, че rogue hacking agents, показани от OpenAI и Anthropic, дават основание някои рискове да бъдат вземани насериозно.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.