Anthropic предупреждава, че малки AI модели могат да се самовъзпроизвеждат чрез IoT устройства
Компанията за изкуствен интелект Anthropic предупреждава, че напредъкът при малките AI модели скоро може да постави началото на нова ера на самовъзпроизвеждащ се зловреден софтуер, способен да заразява умни хладилници, прахосмукачки и широк спектър от други устройства от интернет на нещата, като същевременно е по-устойчив на премахване.
До следващата година по-малките AI модели може да са способни автономно да се самовъзпроизвеждат на всякакви IoT устройства, заяви компанията. В крайна сметка тази способност би могла да даде възможност за създаването на компютърни червеи, които се разпространяват без човешка намеса и могат да заразяват непознати IoT устройства. Експеримент, проведен наскоро от компанията, разкри значителни предизвикателства пред реализирането на подобен AI репликатор на зловреден софтуер, така че изводът трябва да бъде разглеждан с необходимите уговорки. Въпреки това резултатите пораждат опасения относно възможността за появата на нови форми на компютърни червеи.
Труден за спиране
Anthropic допълнително предупреди не само за новия потенциален зловреден софтуер, но и че той може да бъде труден за спиране. В публикацията си в блога компанията написа, че „подобен репликатор би бил труден за спиране, тъй като няма централизирана точка, която да бъде изключена — макар че може да е бавен (с време за удвояване от дни). За разлика от не-ИИ зловредния софтуер, той също би могъл сам да идентифицира непознати устройства.“
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.