Anthropic представила FlashProve для проверяемого вывода моделей

Команда Frontier Red Team компании Anthropic представила FlashProve — открытый исследовательский прототип на основе zkSNARK, который доказывает, что ответ был создан конкретной моделью с заранее зафиксированными весами. Доказательство не раскрывает веса модели. Система предназначена для решения проблемы API-сервисов: пользователь не может самостоятельно проверить, какая модель сформировала ответ и не изменялся ли поток токенов.

На Llama 4 Maverick, смеси экспертов на 400B параметров с примерно 17B активных параметров на токен, FlashProve обеспечивает около 110 токенов в секунду на одном H100 80 GB и 24 ядрах CPU. Размер доказательства составляет 18.78 MB, а его проверка занимает около 17 секунд на 24 потоках CPU. Для создания доказательств требуется примерно 290 GB оперативной памяти, тогда как проверка не нуждается в GPU. Длина запроса ограничена 1,024 токенами.

Сначала поставщик публикует криптографическую фиксацию одного набора весов. По данным Anthropic, эта операция занимает около 39 минут и рассчитана примерно на 16 миллионов запросов. Затем для каждого ответа создается доказательство. Компания заявляет о постквантовых свойствах безопасности и формализовала в Lean полноту, корректность и нулевое разглашение протокола. Недостаток системы — высокая стоимость: доказательство требует примерно в 70–95 раз больше GPU-времени, чем обычный вывод через vLLM.