Google премести обучението на федеративни модели в удостоверени среди
Google Research представи система за федеративно обучение, базирана на Trusted Execution Environments (TEE). Екипът заявява, че тя за първи път позволява централната диференциална поверителност при федеративно обучение да бъде проверявана от външни страни. По-ранните решения със Secure Aggregation защитаваха качените данни, но не поддържаха някои съвременни алгоритми, сред които matrix factorization DP-FTRL, а операторът трябваше да бъде смятан за надежден при добавянето на шум.
При новия подход устройствата криптират примерите за обучение и предварително задават политика за достъп, която определя кои TEE изчисления могат да ги обработват. Политиките се публикуват в публичния журнал Rekor на Sigstore. Система за управление на ключове, изградена от TEE компоненти, предоставя ключове само на съвпадащи с политиката натоварвания. Обучението се координира от основен TEE и работни TEE среди, а се публикуват единствено диференциално частни тегла на модела.
Google е използвала системата за английски и японски модели за предвиждане на следваща дума в Gboard. Компанията съобщава за по-силни гаранции за поверителност, по-добра точност и значително по-бързо изчисление, без да посочва единна стойност за ускорението. Предишното обучение е отнемало от един до два месеца, докато новият процес разпределя работата между машини според наличните TEE ресурси.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.