AI & computing › Post-quantum cryptografie
Compiler laat AI rekenen op versleutelde data, maar nog altijd traag
Onderzoekers van Google's HEIR-project boeken vooruitgang met een compiler die AI-modellen laat draaien op versleutelde gegevens, zonder dat de computer ooit de originele data te zien krijgt. Nieuwe testresultaten laten zien dat de rekentijd nog altijd duizenden keren hoger ligt dan normaal, maar dat het gat dankzij GPU's snel kleiner wordt.
Stel je voor: een bank wil met kunstmatige intelligentie fraude opsporen, maar mag de gevoelige transactiegegevens van klanten nooit in leesbare vorm op een server zetten. Dat is precies het probleem dat cryptografieonderzoekers proberen op te lossen met homomorfe encryptie: een techniek waarmee een computer kan rekenen op versleutelde data zonder ooit de inhoud te kunnen lezen. Het HEIR-project van Google bouwt hiervoor een compiler die bestaande AI-modellen automatisch omzet naar een versleutelde variant.
Softwareontwikkelaar Jeremy Kun, een van de makers van HEIR, publiceerde deze week gedetailleerde testresultaten. Die laten zien hoe ver de techniek al staat, en waar de grenzen nog liggen.
Rekenen zonder ooit mee te kijken
De belofte van homomorfe encryptie is streng: op geen enkel moment krijgt de computer die de berekening uitvoert ook maar één bit informatie over de originele data, de tussenresultaten of de uiteindelijke uitkomst. Alleen wie de juiste sleutel heeft, kan het antwoord ontcijferen. HEIR maakt dit mogelijk door een gewoon programma, bijvoorbeeld een neuraal netwerk voor fraudedetectie, automatisch te vertalen naar instructies die op versleutelde getallen werken.
Duizenden keren trager, maar het gat wordt kleiner
In een test met een simpel neuraal netwerk voor creditcardfraude, getraind op een Kaggle-dataset, duurde één voorspelling op versleutelde data ongeveer 2 seconden op één processorkern. Dezelfde berekening op onversleutelde data kostte 0,52 milliseconde: een vertraging van ongeveer 4.000 keer. Grotere modellen presteren nog slechter. Een netwerk voor het opsporen van netwerkafwijkingen kostte 30 seconden, een aanbevelingsmodel (criteo) 5 minuten, en een spraakherkenningsmodel met tien lagen zelfs 20 minuten per voorspelling.
Toch is er goed nieuws. Onderzoekers die HEIR koppelden aan een GPU, vergelijkbaar met een Nvidia H100, kregen de criteo-berekening terug tot 500 milliseconde. Vergeleken met de onversleutelde versie van 10 milliseconde is dat nog altijd 50 keer trager, maar dat is een enorme sprong vooruit. Volgens Kun kijken onderzoekers ook naar gespecialiseerde chips zoals FPGA's en ASIC's, die de rekentijd verder kunnen verkorten.
Nog geen kant-en-klare oplossing
Een AI-model geschikt maken voor HEIR is vooralsnog geen kwestie van een druk op de knop. Ontwikkelaars moeten handmatig aangeven welke invoergegevens geheim zijn en binnen welke grenzen bepaalde berekeningen mogen vallen. Ook is er nog geen volledige ondersteuning voor alle soorten AI-modellen: HEIR werkt vooral goed met modellen die via PyTorch zijn gebouwd. Bovendien gaat er tijdens de versleutelde berekening altijd een klein beetje rekenprecisie verloren, wat ontwikkelaars moet afwegen tegen snelheid. Het onderzoek is bedoeld om te laten zien wat er al mogelijk is, niet om te bewijzen dat de techniek al klaar is voor grootschalig gebruik.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als homomorfe encryptie praktisch genoeg wordt, kunnen diensten AI-analyses uitvoeren op gevoelige gegevens, zoals medische dossiers of financiële transacties, zonder ooit toegang te hebben tot de originele inhoud. Dat opent deuren voor privacyvriendelijke toepassingen in de zorg, financiële sector en overheid, al blijft de rekenkracht die ervoor nodig is voorlopig een grote drempel.
- Homomorfe encryptie
- Een vorm van versleuteling waarbij een computer kan rekenen op data zonder die ooit te ontcijferen.
- HEIR
- Een compiler van Google die gewone programma's automatisch omzet zodat ze op homomorf versleutelde data kunnen draaien.
- MLIR
- Een tussentaal (intermediate representation) waarmee compilers zoals HEIR programma's stap voor stap kunnen omzetten en optimaliseren.
- Cijfertekst (ciphertext)
- De versleutelde vorm van data; de enige vorm van de gegevens die de rekenende computer ooit te zien krijgt.
- Bootstrapping
- Een bewerking binnen homomorfe encryptie die de opgebouwde 'ruis' in versleutelde data vermindert, maar die het traagste onderdeel van het proces is.
- GPU
- Een grafische chip die door zijn vermogen om veel berekeningen tegelijk uit te voeren ook wordt ingezet om AI en versleutelde berekeningen te versnellen.
- FPGA en ASIC
- Gespecialiseerde computerchips die voor één specifieke taak worden ontworpen of geprogrammeerd, en daardoor veel sneller kunnen zijn dan algemene processoren.
- Neuraal netwerk
- Een AI-model dat is opgebouwd uit lagen van kunstmatige 'neuronen', gebruikt om bijvoorbeeld fraude of afwijkingen te herkennen.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
