Предупреждение Anthropic о самовоспроизводящемся ИИ вызывает тревожное дежавю

Добро пожаловать в тревожный мир ИИ-червей, где, в зависимости от того, кого вы спросите, перспектива неконтролируемого распространения моделей по бытовым приборам — это либо надвигающаяся угроза кибербезопасности, либо очередной пример нагнетания шумихи со стороны ИИ-компаний, окрашенной в мрачные тона. В сообщении в блоге, опубликованном на этой неделе, Anthropic предупреждает, что небольшим ИИ-моделям может понадобиться «несколько месяцев», чтобы обрести такие возможности. Их эксперименты дают некоторые основания для этого, но оставляют огромную пропасть между тем, что продемонстрировали исследователи, и надвигающейся угрозой, о которой они предупреждают. Тем не менее эксперты, опрошенные The Verge, говорят, что, хотя компьютерные черви и опасения по поводу самовоспроизводящегося ИИ — далеко не новое явление, последние достижения указывают на то, что к этим предупреждениям есть веские причины отнестись серьёзно.