Anthropic представи FlashProve за проверимо извеждане от модели

Екипът Frontier Red Team на Anthropic представи FlashProve — отворен изследователски прототип, който използва zkSNARKs, за да доказва, че даден отговор е генериран от конкретен предварително ангажиран модел. Доказателството не разкрива теглата на модела. Системата цели да реши проблем при API услугите: потребителят не може самостоятелно да потвърди кой модел е отговорил или дали потокът от токени е бил променен.

При Llama 4 Maverick, смесен експертен модел с 400B параметри и около 17B активни параметри за токен, FlashProve достига около 110 токена в секунда с един H100 80 GB и 24 процесорни ядра. Доказателствата са 18.78 MB и се проверяват за около 17 секунди на 24 CPU нишки. За създаването им са нужни приблизително 290 GB оперативна памет, докато проверката не изисква GPU. Контекстът е ограничен до 1,024 токена.

Първо доставчикът публикува криптографски ангажимент към конкретен набор от тегла. Тази стъпка отнема около 39 минути и обхваща приблизително 16 милиона заявки. След това се създава доказателство за всеки отговор. Anthropic посочва свойства за сигурност след появата на квантови компютри, а протоколът е формализиран в Lean. Цената е значителна: доказването използва около 70 до 95 пъти повече GPU време от стандартното извеждане с vLLM.