Anthropic попереджає: малі моделі ШІ можуть самовідтворюватися через пристрої IoT
Компанія Anthropic, що займається розробкою ШІ, попереджає, що розвиток малих моделей ШІ невдовзі може започаткувати нову еру самовідтворюваного шкідливого програмного забезпечення, здатного заражати розумні холодильники, пилососи та широкий спектр інших пристроїв Інтернету речей і стійкішого до спроб його знешкодити.
За словами компанії, вже наступного року менші моделі ШІ можуть отримати здатність автономно самовідтворюватися на всіляких пристроях Інтернету речей. Зрештою ця здатність може уможливити створення комп’ютерних хробаків, які поширюються без участі людини та здатні заражати незнайомі пристрої Інтернету речей. Нещодавно проведений компанією експеримент виявив значні труднощі у втіленні такого реплікатора ШІ-шкідливого програмного забезпечення, тому цей висновок слід сприймати з певними застереженнями. Водночас результати справді викликають занепокоєння щодо можливості появи нових форм комп’ютерних хробаків.
Складно зупинити
Anthropic також попередила не лише про нове потенційне шкідливе програмне забезпечення, а й про те, що його може бути складно зупинити. У своєму дописі в блозі компанія написала: «Такий реплікатор буде складно зупинити, оскільки не існує централізованої точки, яку можна було б вимкнути, — хоча він може поширюватися повільно (подвоюючись за кілька днів). На відміну від не пов’язаного зі ШІ шкідливого програмного забезпечення, він також зможе самостійно виявляти незнайомі пристрої».
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.