Anthropic випустила FlashProve для перевірки роботи моделей

Команда Frontier Red Team компанії Anthropic представила FlashProve — відкритий дослідницький прототип на основі zkSNARK, який доводить, що відповідь створила конкретна модель із заздалегідь зафіксованими вагами. Доказ не розкриває ваги моделі. Система має розв’язати проблему API-сервісів: користувач не може самостійно перевірити, яка модель сформувала відповідь і чи не змінювався потік токенів.

На Llama 4 Maverick, суміші експертів на 400B параметрів із приблизно 17B активних параметрів на токен, FlashProve забезпечує близько 110 токенів за секунду на одному H100 80 GB і 24 ядрах CPU. Розмір доказу становить 18.78 MB, а його перевірка триває близько 17 секунд на 24 потоках CPU. Для створення доказу потрібно приблизно 290 GB оперативної пам’яті, тоді як перевірка не потребує GPU. Запит обмежений 1,024 токенами.

Спочатку постачальник публікує криптографічну фіксацію одного набору ваг. За даними Anthropic, ця операція триває близько 39 хвилин і охоплює приблизно 16 мільйонів запитів. Потім для кожної відповіді створюється доказ. Компанія заявляє про постквантові властивості безпеки, а повноту, коректність і нульове розголошення протоколу формалізовано в Lean. Компромісом є висока вартість: доведення потребує приблизно у 70–95 разів більше GPU-часу, ніж звичайний вивід через vLLM.