Privacyvriendelijk data delen is echt hogere wiskunde

Thema:
Data sharing
18 februari 2022

In onze datagedreven samenleving is de bescherming van vertrouwelijke en persoonlijke gegevens een groot goed. Cryptoloog Thomas Attema verricht baanbrekend wiskundig werk op het gebied van Multiparty Computation en Zero-Knowledge Proofs, cryptografische oplossingen voor partijen om waarde te creëren met elkaars data zonder deze aan elkaar te hoeven prijsgeven. Het leverde hem de TNO Young Excellent Researcher Award 2021 op.

Thomas, voordat we dieper ingaan op jouw onderzoek en wat de award voor jou betekent: wat is cryptologie precies? En wat doe jij als cryptoloog bij TNO?

“Cryptologie houdt zich bezig met het beschermen van informatie. Een cryptograaf versleutelt een boodschap, die hierdoor alleen maar te ontcijferen is voor degene die de juiste sleutel weet. Cryptologie wordt als wetenschap alsmaar relevanter en urgenter, ook binnen TNO, omdat in onze maatschappij ontzettend veel data wordt verzameld en gedeeld. Dat is nodig voor het realiseren van economische groei en het oplossen van maatschappelijke uitdagingen.

Met geavanceerdere cryptografische technieken kun je zelfs een setting creëren waarin partijen gebruikmaken van elkaars data om samen waardevolle inzichten te creëren, zonder dat ze deze data met elkaar hoeven te delen. Hiermee wordt het grondrecht op privacy van de betrokken mensen beschermd en is de veiligheid van commercieel vertrouwelijke data gewaarborgd.”

"Met geavanceerdere cryptografische technieken kun je zelfs een setting creëren waarin partijen gebruikmaken van elkaars data om samen waardevolle inzichten te creëren, zonder dat ze deze data met elkaar hoeven te delen."

Worden deze geavanceerdere cryptografische technieken al in de praktijk toegepast?

“Jazeker, ze zijn ook al in de jaren tachtig bedacht. Ze waren toen alleen nog niet zo efficiënt. Bovendien waren de computers van toen niet krachtig genoeg om ze te kunnen uitvoeren. Daar komt nu verandering in, en daarom is het onderzoek nu volop in ontwikkeling. Samen met het Centrum Wiskunde & Informatica (CWI) werken we aan geavanceerde cryptologische technieken, zoals Multiparty Computation en Zero-Knowledge Proofs.

MPC is bijvoorbeeld toe te passen in het opsporen en bestrijden van frauduleuze banktransacties en andere financiële en economische criminaliteit. Banken zien alleen het transactieverkeer waar hun eigen rekeningnummers bij betrokken zijn. Om een completer beeld te krijgen, is ook informatie van andere financiële instellingen nodig. Klantgegevens mogen en kunnen zij echter niet zomaar uitwisselen. We hebben proofs of concept ontwikkeld voor de analyse van data en het trekken van conclusies, zonder dat de instellingen elkaars data kunnen zien. Die zijn we nu aan het testen en dat is spannend natuurlijk.”

"Met MPC kun je privacy waarborgen bij gezichtsherkenning en patiëntgegevens analyseren om de behandeling van HIV te verbeteren."

Zijn er nog meer toepassingsmogelijkheden?

“Met MPC kun je bijvoorbeeld ook de [privacy waarborgen bij gezichtsherkenning], zoals we hebben onderzocht in opdracht van de Johan Cruyff Arena, Gemeente Amsterdam en de politie. Op basis van camerabeelden die worden gemaakt rondom het stadion, kan de politie verdachte personen of situaties identificeren zonder toegang te krijgen tot deze beelden. Gezichtsherkenning zonder medewerking van de betreffende personen is een controversieel onderwerp, dus het is belangrijk om naast technische ook juridische en ethische overwegingen mee te nemen en de dialoog hierover in gang te zetten, vind ik.

Een minder omstreden toepassing is het analyseren van patiëntgegevens om de behandeling van hiv te verbeteren. Hiv is een complex virus met ruim zeventig verschillende behandelregimes. De effectiviteit van zo’n regime hangt af van welke mutatievariant van het virus de patiënt heeft opgelopen. Om de meest effectieve behandeling te bepalen heb je resultaten van behandelde patiënten nodig. Met MPC kun je deze analyseren zonder dat je toegang tot de patiëntdata zelf krijgt.”

Wat is de grootste uitdaging waar de cryptografie voor staat?

“Een grote uitdaging is de komst van de kwantumcomputer. De traditionele cryptografische technieken zijn gebaseerd op wiskundige problemen. Omdat die moeilijk zijn op te lossen, is de data veilig. De kwantumcomputer kan sommige problemen echter zo snel oplossen, dat de cryptografische protocollen de vertrouwelijkheid, authenticiteit en integriteit van de data niet meer kunnen garanderen. Er is dus nieuwe cryptografie nodig, gebaseerd op wiskundige problemen die ook voor kwantumcomputers moeilijk zijn. Dit noemen we post-quantum cryptografie. Het feit dat bepaalde gegevens wel tientallen jaren beschermd moeten worden maakt ons onderzoek zo urgent.“

"Wat ook mooi is aan cryptografie is dat je er tegenintuïtieve functionaliteiten, zoals die van MPC, mee kunt realiseren."

Kun je uitleggen wat jij zo gaaf vindt aan cryptografie?

“Cryptografie draagt bij aan het oplossen van maatschappelijke vraagstukken en is in die zin zeer toepasbaar, maar je moet er ook diep de wiskunde voor induiken. Voor cryptografie heb je vooral getaltheorie nodig. Dat vind ik een van de meest elegante vormen van wiskunde. Getaltheoretische problemen met een heel eenvoudige beschrijving vereisen soms hele complexe oplossingen. Wat ook mooi is aan cryptografie is dat je er tegenintuïtieve functionaliteiten, zoals die van MPC, mee kunt realiseren. Je denkt dat iets niet kan – in dit geval met meerdere partijen berekeningen maken met data die je niet deelt – maar dan zijn er cryptografische technieken die het wel mogelijk maken. Ik kan me hier helemaal in verliezen.”

Je verliezen in de theorie: kan dat wel bij TNO, waar de toepassing centraal staat?

“De vier genomineerden voor de award kregen van de jury het boekje The usefulness of useless knowledge van Abraham Flexner, de oprichter van het Institute for Advanced Study in Princeton. Hij betoogt dat je je in onderzoek niet te veel moet laten beperken door de toepassing. Daar ben ik het helemaal mee eens. Wetenschappers hebben ontdekkingen gedaan die in eerste instantie geen praktisch nut hadden, maar over de jaren heen enorme impact bleken te hebben. Neem alleen al de kwantummechanica. Die stamt nog uit de tijd waarin de computer nog niet bestond, laat staan dat ze toen al nadachten over kwantumcomputers. Dat neemt niet weg dat ik mij graag laat inspireren door praktische problemen en veel energie haal uit het oplossen daarvan.”

Is jouw liefde voor wiskundige theorie een reden waarom je naast je baan bij TNO ook nog PhD-onderzoek doet bij het CWI?

“Zeker. Bij TNO werken we aan maatschappelijk relevante problemen en proberen we deze op te lossen door nieuwe innovatieve technologieën toe te passen. Door mijn samenwerking met het CWI kan ik daarnaast, samen met de beste cryptologen in de wereld, werken aan de onderliggende theoretische en wiskunde vraagstukken. Voor mij geeft dit een ideale balans tussen de theorie en de praktijk.”

Met jouw PhD-professor, Ronald Cramer, werkt TNO al langer samen, toch?

“Dat klopt. Samen hebben we bijvoorbeeld Compressed Σ-Protocol Theory geïntroduceerd. Hierin combineren we de wiskundige elegantie van een bestaande theorie met allerlei praktische efficiëntieverbeteringen van de afgelopen jaren. Je wilt berekeningen zo efficiënt mogelijk doen met zo min mogelijk rekenkracht, maar je wilt ook de wiskunde aan de achterkant elegant en theoretisch solide houden. De theorie heeft veel potentie. We hebben er al meerdere papers over geschreven en zijn in korte tijd al redelijk goed geciteerd.”

Wat betekent het winnen van deze verkiezing voor jou en je collega’s?

“Dat is voor mij een mooie erkenning en een grote kers op de taart. Ons team heeft de afgelopen vijf jaar een grote ontwikkeling doorgemaakt. Toen ik me in 2016 met cryptologie ging bezighouden, waren we met een handjevol mensen, nu met ruim dertig. Dat zegt iets over de waarde van ons onderzoek. We zijn met interessante dingen bezig en deze award is hiervoor een bevestiging. De collega’s die me hebben voorgedragen werken nauw met me samen en kennen me goed. Ook mijn professor stond achter de nominatie. Dat alles maakt het winnen van de award zeer waardevol voor mij.“

Wat gaat cryptologie jou, TNO en de maatschappij in de toekomst brengen?

“Voor TNO is cryptografie van groot belang. Met machine learning, AI en data-analysetechnieken maken we mooie technologische en sociale innovaties mogelijk, maar de data die we hiervoor nodig hebben, is vaak vertrouwelijk. Cryptografie moet ons helpen een weg te vinden in deze ogenschijnlijke tegenstrijdigheid.

"En dan is er nog de kwantumcomputer. Als die er komt, heeft dat desastreuze gevolgen voor onze digitale samenleving."

En dan is er nog de kwantumcomputer. Als die er komt, heeft dat desastreuze gevolgen voor onze digitale samenleving. Er worden, ook in de academische wereld, allerlei nieuwe (post-quantum) protocollen ontwikkeld, maar het is nog wel een grote stap deze naar de praktijk te brengen. Als we hier nog lang mee wachten, zijn we te laat. Een deel van ons werk is dus ook de maatschappij wakker schudden. Ook hier wil ik graag mijn steentje aan bijdragen.”

Laat je verder inspireren

21 resultaten, getoond 1 t/m 5

Federated learning: maak kennis met privacybestendige data analyse

Informatietype:
Artikel

Federated Learning is een privacyvriendelijke manier om data te analyseren. Het gebruikt een decentrale en privacyvriendelijke vorm van machine learning.

Versterking digitale soevereiniteit maakt Europa politiek en economisch minder kwetsbaar

Informatietype:
Insight
15 juni 2022

Doordat we in Europa voor onze digitale infrastructuur en data sterk afhankelijk zijn geworden van enkele Big-Techbedrijven uit niet-Europese landen, zijn we vanuit economisch en politiek perspectief kwetsbaar geworden. TNO adviseert overheden hoe hiermee om te gaan.

Datasoevereiniteit biedt kansen voor Europese bedrijven en technologieaanbieders

Informatietype:
Insight
15 juni 2022

Hoe kunnen Europese cloud- en technologieaanbieders zich onderscheiden van Big Tech-bedrijven en op basis van digitale soevereiniteit nieuwe commerciële toepassingen en lucratieve bedrijfsmodellen ontwikkelen?

Nederland en Europa digitaal steeds afhankelijker van VS en China

Informatietype:
Nieuws
15 juni 2022

Op vrijwel alle digitale fronten zijn Nederland en Europa te afhankelijk geworden van niet-Europese landen. Meer dan 90% van de Europese data staat op Amerikaanse servers opgeslagen en het merendeel van de digitale infrastructuur is in handen van een beperkt aantal niet-Europese leveranciers. Om die afhankelijkheid te verkleinen moet de invloed op het design en het gebruik van digitale technologieën en de data die daarmee gegenereerd en verspreid wordt vergroot worden, zowel op nationale als Europese schaal. Beleidsmakers, het bedrijfsleven en kennisinstellingen kunnen bijdragen door op technologisch, zakelijk en beleidsvlak samen te werken aan de ontwikkeling en implementatie van technologieën, die digitale soevereiniteit als ontwerp principe hanteren. Dat schrijft TNO in een nieuw paper over de digitale soevereiniteit van Nederland en Europa. Op maandag 20 juni worden de inzichten uit het paper uitgediept tijdens het ECP Deelnemersspecial - Digitale Soevereiniteit.

Secure multi-party computation

Informatietype:
Artikel

Hoe deel je als organisatie veilig informatie zonder gevoelige data prijs te geven? Wij leveren een bijdrage door Secure Multi-Party Computation.