In onze laatste blogpost hebben we laten zien hoe je LLM-schema's met privacybehoud kunt doorbreken - het decoderen van gepermuteerde modeltoestanden met bijna perfecte nauwkeurigheid. Vandaag presenteren we onze verdediging: Cascade 🕵️ ♂️✨

Cascade beveiligt LLM-inferentie door verborgen toestanden te splitsen over partijen via "token sharding"—elke node ziet slechts een paar tokens in volgorde. Hoe verder de tokens van een node uit elkaar liggen, hoe hoger de kosten van een aanval—die exponentieel toenemen met de afstand.

Cascade behoudt volledige nauwkeurigheid in inferentie—geen benaderingen, geen vaste punt wiskunde. Het splitst de berekening tussen CompNodes (voor MLP's) en AttnNodes (voor aandacht), waarbij exacte resultaten worden behouden over gedistribueerde fasen.

De kern van Cascade is een token-sharding-schema dat robuust is tegen zowel onze reconstructie-aanval als bekende op leren gebaseerde aanvallen. In de paper laten we zien dat onze aanpak, genaamd c-δ sharding, een sterke privacy bereikt zonder afbreuk te doen aan de getrouwheid.

We voeren uitgebreide experimenten uit met de beveiliging van Cascade tegen aanvallen op basis van leren. Hoewel het de formele garanties van SMPC mist, tonen we aan dat Cascade met voldoende nodes empirisch robuust is tegen deze aanvallen.

Het belangrijkste voordeel van Cascade is snelheid en schaalbaarheid. Vergeleken met bestaande SMPC-schema's zoals MPCFormer en Puma, is Cascade 2 ordes van grootte sneller, zelfs de veiligste instelling die we hebben getest (72 deelnemers):

Cascade werd gemotiveerd door de behoefte om een nieuw paradigma te vinden in de afweging tussen privacy, beveiliging en schaalbaarheid. Wij geloven dat het kernidee - token-sharding - dat evenwicht vindt en een nieuwe richting opent voor LLM's die de privacy beschermen.

Ons werk aan zowel de aanval als Cascade werd geaccepteerd op ICML 2025 en zal worden gepresenteerd op 16/7 om 16.30 uur PST in East Exhibition Hall A-B, kamer E-2612, in het Vancouver Convention Center. Kom met ons kletsen! 🔗

Kom naar de Ritual social op ICML. Maak kennis met ons AI- en crypto-onderzoeksteam, ontspan met geweldige mensen en sluit je dag op de juiste manier af. Het is het perfecte ritueel. Schrijf je hier in: