Door Fleur Jongepier (Radboud Universiteit Nijmegen)
Vanaf nu lees je iedere maand een bijdrage van Fleur Jongepier op Bij Nader Inzien. Wil je nooit meer een blog missen? Meld je aan voor onze nieuwsbrief via de homepage.
De concepten “individu” en “vrijheid” hebben in het digitale tijdperk geen betekenis meer (Yuval Noah Harari). Omdat algoritmes “ons beter begrijpen dan wij onszelf begrijpen, kunnen ze ons manipuleren op manieren die we niet kunnen begrijpen” (Jamie Bartlett). We worden door big tech bedrijven behandeld als een massa “gebruikers” die als een kudde “samengedreven” kan worden (Shoshana Zuboff).
Poeh, poeh, nou, nou, zo kan die wel weer. Wordt de soep werkelijk zo heet gegeten als die wordt opgediend? Jesse Frederik en Maurits Martijn (hierna: team FrederikMartijn) plaatsen in een stuk in de Correspondent terecht de nodige vraagtekens. Online advertenties (dat is waar het de meesten die alarm slaan om te doen is) zijn, stellen zij, de “nieuwe internetbubbel”.
Wordt ons brein “gehijacked”?
Team FrederikMartijn geeft goede reden om te twijfelen aan de effectiviteit van online advertenties en dus ook, zou je denken, aan de ernst van – dat wil zeggen, de morele bezwaren omtrent – online manipulatie. Ik moet eerlijk toegeven: ik ben door het stuk geturned. Aanvankelijk zat ik in het “onze autonomie staat mogelijk (!) op het spel”-kamp, en nu denk ik toch: ja, aan mij zul je toch geen stilettohakken kunnen slijten, hoeveel een algoritme ook over mij weet, en hoe vernuftig de advertenties ook zijn. Plus, de meeste van de belangrijke keuzes die ik in mijn leven maak (wat betreft carrière of sociaal leven) zijn voldoende autonoom. Ik heb bepaald niet het idee dat mijn “brein” in feite “gehijacked” wordt (Harari). Waar hebben we het dus precies over?
Bovenstaande twijfels worden vooral urgent wanneer het gaat over politieke online advertenties. Denk Brexit en Trump. Zoals Garrett Johnson het verwoordt, een van de economen die ooit werkte bij Yahoo! en Google die door team FrederikMartijn werd geïnterviewd: ‘Wat mij frustreert is het magische denken’ (…) ‘Alsof Cambridge Analytica ons brein kan hacken, en we allemaal lemmingen zijn die zo van een klif rennen. We zijn helemaal niet zo machteloos.’
Aan mij zul je toch geen stilettohakken kunnen slijten, hoeveel een algoritme ook over mij weet
Eens. We moeten ons afvragen of het digitale doemdenken niet het nieuwe wij-zijn-ons-brein-denken is geworden: een nieuwe manier om lekker in een deterministisch mensbeeld te hangen en onze verantwoordelijkheid en autonomie te ontkennen. Dat is potentieel gevaarlijk, we nemen daarmee onvoldoende serieus dat veel mensen redenen en motivaties hadden om, bijvoorbeeld, Brexit te stemmen.
Tot zo ver applaus voor team FrederikMartijn. (Dat is niet cynisch; hun stuk zit in mijn cursus Digitale Manipulatie en Autonomie.) Dan de kanttekening.
Intenties, niet alleen uitkomsten
Na het lezen van hun stuk zou je misschien kunnen denken: waar maken we ons eigenlijk druk om? Online manipulatie werkt toch bijna nooit (behalve tieners die zich waardeloos voelen en zwarte werkloze vrouwen). Overigens lijken me die tieners en werkloze vrouwen reden genoeg om flink te steigeren maar daar gaat dit stuk niet over. Mijn argumentatieve strategie is deze: zelfs als manipulatie in geen enkel geval effectief is, ook bij die tieners en vrouwen niet, dan nog is er reden tot zorg.
Wanneer we het concept “manipulatie” nemen, en met name de vraag wat er moreel problematisch aan is, kunnen we twee perspectieven nemen. We kunnen de problematiek bekijken ofwel vanuit het perspectief van de gemanipuleerde ofwel vanuit de manipulator. Vrijwel iedereen in het publieke debat neemt het eerste perspectief. De centrale vraag die bij dat perspectief hoort, is: welke schade loopt het individu (de gemanipuleerde) op? Ofwel, wat zijn de negatieve consequenties voor het individu (wat betreft welzijn, privacy of vermogen eigen keuzes te maken)?
Wat opvalt: team Harari-Zuboff en team FrederikMartijn nemen hetzelfde perspectief in. Het eerste team denkt dat de schade groot is, de tweede dat het een storm in een glas water is. Alleen als we het eerste perspectief innemen, en vervolgens de Correspondent-afslag nemen, zou eventueel volgen dat we ons niet zo druk moeten maken om online advertenties.
Laten we het nu eens bekijken vanuit het perspectief van de manipulator. Over de vraag wat een manipulator kenmerkt worden boeken vol geschreven (toffe boeken, overigens), maar over het algemeen is een manipulator iemand die een ander als marionet gebruikt en diegene om de tuin probeert te leiden, vaak door sluw in te spelen op bijvoorbeeld emoties en kwetsbaarheiden, om daar vervolgens zelf iets uit te halen.
Harriet is een tanker die niet naar links of naar rechts te bewegen is
Neem Harry. Harry wil dat zijn vrouw Harriet net als hij ook Brexit stemt. Harriet zit zonder baan en Harry en Harriet zitten krap bij kas omdat ze hoge zorgkosten hebben. Al het geld dat normaliter in Europa wordt gepompt gaat de gezondheidszorg in op het moment dat Brexit een feit, weet Harry. Harry weet ook dat Harriet niet overtuigd kan worden door zijn redenen pro Brexit. En dus legt hij op de momenten waarop Harriet het meest kwetsbaar is de Telegraph open op de relevante pagina’s. Ook zegt hij dingen tegen haar als: “Je beste vriend Charles stemt toch ook Brexit?” en: “Rachel is pas echt moedig. Ze was eerst tegen Brexit, maar is nu toch over de heg.”
Ik kan het voorbeeld uitbreiden, maar het is duidelijk: Harry is een manipulator. Maar stel dat het totaal niet werkt. Harriet is een tanker die niet naar links of naar rechts te bewegen is, ze stemt wat ze zelf wil. Laten we voor the sake of argument aannemen dat noch Harriet’s vermogen om zelf keuzes te maken noch haar welzijn wordt aangetast. Harry is ineffectief. Maakt dat zijn gedrag oké?
Facebook en co gebruiken internet users enkel als middel
Nee, natuurlijk niet. Harry heeft de verkeerde intenties. Om het Kantiaans uit te drukken: Harry gebruikt Harriet enkel als middel. Harry gebruikt Harriet in zoverre hij haar als instrument inzet om meer stemmen voor Brexit voor elkaar te krijgen puur omdat dat in zijn eigen voordeel werkt (denkt hij). Hij gebruikt Harriet als middel, omdat hij geen beroep doet op haar vermogen om zelf na te denken, maar sociale druk opvoert en beroep doet op haar kwetsbaarheden. Hij gebruikt haar enkel als middel omdat hij haar niet om toestemming heeft gevraagd haar vermogen tot reflectie in de wind te slaan (we behandelen elkaar zo vaak als ‘ding’, wat prima is zolang de ander dat weet en oké vindt).
Het moge duidelijk zijn dat Harry symbool staat voor platforms als Facebook en adverteerders die strategieën gebruiken zoals kwetsbaarheden uitbuiten en sociale druk creëren door je te laten zien wat al je vrienden hebben gezegd of geliked.
Misschien heeft team FrederikMartijn gelijk, en is het totaal ineffectief. Maar dat het niet werkt, maakt het nog niet oké.
Verder lezen & kijken
Yuval Noah Harari werd van de week door Adriaan van Dis geïnterviewd bij DWDD.
