Use of Zero-Knowledge Proofs in Machine Learning

Abstract

Federatívne učenie (FL) umožňuje spoločné trénovanie modelu bez priameho zdieľania údajov, ale často sa spolieha na silné predpoklady o čestnom správaní klienta a servera. To je dôvod, prečo štandardné FL protokoly poskytujú iba obmedzenú záruku ohľadom výpočtov na strane klienta, integrity odoslaných informácii, alebo ohľadom správnosti agregácie na strane servera. Táto diplomová práca skúma použitie systémov s nulovými znalosťami (ZKP) spolu s podpornými metódami na vytvorenie dôvery v FL prostredí. V tejto práci sa po úvode k FL a ZKP ďalej skúma prehľad existujúcich ZKP nástrojov v prostredí FL. Na základe tejto analýzy je vytvorená kategorizácia existujúcich prístupov FL založených na ZKP, ktorá je postavená najmä na cieľoch daného systému. Na základe identifikovaných možností zlepšenia práca navrhuje overiteľný protokol váženej agregácie. V tomto protokole je každý prijatý príspevok previazaný s autorizovanou váhou, prípustnou skrytou aktualizáciou, konzistentným váženým vstupom a výslednou aktualizáciou modelu, ktorú je možné verejne overiť prepočítaním. Tento protokol bol implementovaný ako prototyp s plne funkčnými kryptografickými komponentami. Následne je tento protokol vyhodnotený.