Anthropic разработва FlashProve за проверка на AI моделите

Anthropic разработва система с отворен код, наречена FlashProve, която може да установява кой AI модел е създал даден отговор. Проектът използва подход, описан от изследователите като „доказуема инференция“ — криптографско доказателство, предназначено да даде математическа гаранция, че резултатът произхожда от конкретен модел.

Системата трябва да затрудни представянето на един модел за друг, включително когато подмяната е извършена от компанията, която управлява модела. Според изследователите FlashProve може да разкрива тайното използване на по-евтин модел за намаляване на разходите или на по-скъп модел за подобряване на отчетените резултати. Тя може да служи и за проверка на твърдения, че усъвършенстван модел е изпълнил определена задача.

Работата изисква разработчиците на AI да публикуват „отпечатък“ за всеки модел. Той може да се сравнява с конкретни резултати, без да разкрива теглата на модела, така че и търговски системи да бъдат включени. Проверката е проектирана да се извършва на локално устройство. Anthropic публикува техническа спецификация и работещ код в GitHub с лиценз за отворен код. Изследването продължава и засега няма планове за внедряване.