Door Jenneke Evers (Promovendus Universiteit Leiden)

De kogel is door de kerk. Ook Nederland wil een app inzetten om contactonderzoek te doen en nieuwe corona-besmettingen op te sporen. Volgens minister Hugo de Jonge moet de privacy van burgers wel worden beschermd. Op de vraag of deze app verplicht zou worden voor burgers, wist hij nog geen antwoord te geven. Maar is het gebruik van een app de oplossing? En welke risico’s gaan met deze app gepaard?

Technofix als dé oplossing

Het gebruiken van locatiegegevens en applicaties klinkt aantrekkelijk. Isn’t there an app for everything? 

Technofixes zijn alleen niet de oplossing voor complexe sociale problemen. Technofixes zijn de uiting van het idee dat technologie de wereld vooruithelpt, waarin vooruitgang onvermijdelijk alleen plaats kan vinden door technologie. Met andere woorden, technofixes zijn een uiting van een technochauvinisme waarin technologie altijd superieur is, zoals Meredith Broussard zo raak beschrijft. 

Bij voorstellen om apps te gebruiken, als simpele oplossing voor een complex probleem, is het dus altijd verstandig om een paar kanttekeningen te maken

Technochauvinisme vindt meestal plaats tegen een achtergrond waarbij “de technologie-industrie de bestaande machtsverhoudingen dient”, aldus Abeba Birhane. Terwijl: data-gedreven technologie slaat sociale problemen plat. Het reduceert de werkelijkheid tot data zonder rekening te houden met de verschillende, rauwe, niet-kloppende, tegenstrijdige kanten. 

Dit laat het gebruik van telecom- en locatiedata tijdens de Ebola-uitbraak van 2014 zien. Het grootschalige gebruik van telecomdata had geen enkele toegevoegde waarde door een gebrek aan kennis van de lokale context van de uitbraak. Ook bracht het gebruik van de data grote risico’s met zich mee, niet in de laatste plaats voor kwetsbare groepen. 

Bij voorstellen om apps te gebruiken, als simpele oplossing voor een complex probleem, is het dus altijd verstandig om een paar kanttekeningen te maken. En ook nu wordt gewezen op mogelijke risico’s. 

Het privacy-offer

Een van die risico’s is de inbreuk op de privacy die wordt gemaakt door het verzamelen van locatiegegevens. De algemene tendens lijkt te zijn dat een beetje privacy wel kan worden opgeofferd om de volksgezondheid te beschermen.

Maar is dat ook zo? Fleur Jongepier waarschuwde eerder voor deze gedachtegang: privacy is een ‘mensenrecht … cruciaal voor het bestaan van een liberale samenleving’. Marjolein Lanzing onderzocht in haar proefschrift op welke manier privacy een voorwaarde is voor autonomie. 

Door privacy kun je zelf besluiten welke informatie je met wie deelt, afhankelijk van de sociale context waarin je je bevindt. Als jouw locatie echter wordt getrackt door middel van een app, dan komen jouw gegevens opeens in een hele andere context terecht – en worden de bestaande privacy-normen, die autonomie beschermen, opgerekt. 

Het risico van classificeren en categoriseren

Privacy is echter niet het enige risico. In deze twitterdiscussie werd aangestipt dat grootschalig gebruik van data en apps levensgrote, levensechte, gevolgen hebben. Apps classificeren en categoriseren: wel ziek/niet ziek, wel quarantaine/geen quarantaine. Oscar Gandy waarschuwde in 1993 al voor dit sorterende effect van technologie dat vergaande gevolgen kan hebben. 

Zo gebruikte Zuid-Korea tijdens de MERS-epidemie telecomgegevens om burgers te identificeren, hen op basis van kansberekening te classificeren om vervolgens meer dan 17.000 burgers preventief in quarantaine te plaatsen. Met andere woorden, door de inzet van deze technologieën werden burgers hun bewegings- en handelingsvrijheid ontnomen. Hun autonomie werd ingeperkt.

Dit laat ook het programma Jiangkangma ­– dat in Wenzhou, China, wordt gebruikt – goed zien. Hier bepaalt een kleurcode of iemand in quarantaine moet. De app registreert niet alleen data van de smartphone die de inwoners zelf moeten opgeven, maar ook data van andere telefoons die in de buurt zijn (geweest). 

Door de inzet van deze technologieën werden burgers hun bewegings- en handelingsvrijheid ontnomen. Hun autonomie werd ingeperkt

Hoe de kleurcode precies werkt en welke data ervoor zorgen dat iemand binnen moet blijven, is onbekend. In Trouw zegt een inwoner uit Wenzhou nerveus te zijn omdat de code opeens van kleur kan verschieten. Hij gaat daarom niet naar een feestje, omdat er wel eens iemand met een andere kleurcode kan zijn, waardoor ook zíjn code kan veranderen. Het categoriseren en sorteren van de app heeft dus ook een chilling effect: het ontmoedigt het gedrag van burgers. Veel hangt af van wélke gegevens worden gebruikt, hoe de app wordt ontworpen en hoe er mee wordt omgegaan. 

Het risico van stigmatisering en discriminatie 

Op de persconferentie maakte de minister duidelijk dat “de app je vertelt of je in de buurt bent geweest van een andere gebruiker die besmet blijkt te zijn, je krijgt dan het advies om binnen te blijven … Een database bijhouden met locaties van iedereen is niet noodzakelijk.” In ieder geval moet de privacy worden gewaarborgd, aldus de minister. Maar dat is makkelijker gezegd dan gedaan. 

De ACLU beschrijft in haar white paper verschillende manieren om een dergelijke app in te zetten en evenzoveel voorbeelden van hoe het fout kan gaan: een student in Taiwan die bezoek krijgt van de politie omdat zijn batterij was uitgevallen; een vrouw in Israël die vanaf het balkon contact maakt en daardoor onterecht in quarantaine moet; burgers in Zuid-Korea die worden gestigmatiseerd doordat de data slecht zijn geanonimiseerd – wat overigens voor locatiedata vrijwel onmogelijk is – zoals iemand die een cursus volgde over seksuele intimidatie. 

Volgens Virginia Eubanks leidt het categoriseren van burgers tot verdrukking, stigmatisering en discriminatie, juist doordat normatieve, politieke keuzes worden verborgen achter digitale technologie. Keuzes als: welke gegevens worden gebruikt, welke categorieën worden gemaakt, en welke gevolgen het heeft. Hoe wordt de app ingebed in bestaande, bewezen strategieën om corona tegen te gaan? Of wordt er alleen een schijnveiligheid gecreëerd?

Het alternatief van dataminimalisatie

Het gebruik van een dergelijke app hoeft niet altijd ten koste te gaan van privacy. Zo heeft een groep onderzoekers (met onder meer Seda Gürses van de TU Delft) twee privacy-vriendelijke ontwerpen gemaakt. Volgens hen kunnen apps op verschillende manieren gebruik maken van data: door alle data te gebruiken die er is (zoals in West-Afrika), door data te anonimiseren (zoals in Zuid-Korea), of door data te minimaliseren. 

Zonder rekening te houden met de gevolgen is een app geen onderdeel van de oplossing

De onderzoekers kiezen voor gedecentraliseerde dataminimalisatie, waarbij geen gevoelige informatie wordt gelekt. Oftewel, autoriteiten hebben geen toegang tot de data van de gebruiker. Alleen de gebruiker van de app kan nagaan of hij in de buurt was van een besmet persoon. (Kijk voor uitleg hier.)  

Is een app de oplossing? Dat is waarschijnlijk niet de juiste vraag. Zonder rekening te houden met de gevolgen – niet alleen voor privacy, juist ook als het gaat om stigmatisering en discriminatie – is een app geen onderdeel van de oplossing. 

De juiste vraag zou dan ook moeten zijn of een app onderdeel van de oplossing kán zijn. Het is onvermijdelijk dat welke app dan ook burgers sorteert en categoriseert. Wel kunnen inbreuken op privacy, stigmatisering, chilling effects, en discriminatie worden tegengegaan door de manier waarop de app wordt ontworpen en gebruikt. Maar dat is geen easy technofix.

Verder lezen

Virginia Eubanks, Automating Inequality, Picador 2018.

Oscar H. Gandy, The Panoptic Sort, Westview 1993.