Door Jelle Bruineberg (Macquarie University)

De Netflix-documentaire The Social Dilemma luidt de alarmklok over de verregaande invloed van sociale media platforms op ons, de gebruikers. Onze aandacht wordt geoogst door slimme algoritmes die onze psychologische zwaktes uitbuiten. Onze instituties, zelf uitgehold door fake news, staan erbij en kijken ernaar. Het is nogal wat.

Vooropgesteld, het gesprek dat Tristan Harris en andere oud-medewerkers van The Big Four (Amazon, Facebook, Google en Apple) aanslingeren over de verregaande invloed van sociale media platforms moet gevoerd worden. Het is duidelijk dat de “move fast and break things” mentaliteit (als we het welwillend interpreteren) onbedoelde ontwrichtende gevolgen heeft op het niveau van gebruiker, institutie en samenleving.

Geschrokken van hun eigen macht, kiezen de ontwerpers nu voor #teamhuman. Maar wat betekent het om voor #teamhuman te kiezen?

Op de hoogte blijven? Volg ons op Twitter, Facebook en Instagram.

Autonomie versus paternalisme

Nog in 2011 kon de psycholoog Steven Pinker het volgende antwoord geven op de vraag “hoe verandert internet je manier van denken?”:

“Helemaal niet! Ik geloof in de menselijke aard en in de tijdloze normen van logica en bewijs. Ik sta dus sceptisch tegenover de gebruikelijke bewering dat het internet onze manier van denken verandert. Elektronische media zullen heus niet de mechanismen voor informatieverwerking van ons brein veranderen.”

Voor Pinker is de verleiding van sociale media niet anders dan die van een zak M&M’s: ervan afblijven is een uitdaging en af en toe leggen we, om onszelf te helpen, de zak uit ons zicht. Het probleem is misschien wat we denken (nepnieuws, filterbubbels etc.), maar niet dat we denken. Sociale media en digitale technologieën zijn geen wezenlijke bedreiging voor onze autonomie.

Voor Pinker is de verleiding van sociale media niet anders dan die van een zak M&M’s

Volgens de psycholoog B.F. Skinner kon het idee van de ‘autonome mens’ bij gebrek aan een goede gedragswetenschap een tijdje als pseudo-verklaring voor gedrag dienen, maar zijn we nooit écht autonoom geweest. Hij schrijft:

“De autonome mens biedt alleen een verklaring voor die dingen die we nog niet op een andere manier kunnen verklaren. Zijn bestaan hangt af van onze onwetendheid, en zijn status vermindert hoe meer we over gedrag te weten komen.”

Als we de omgeving van een mens maar genoeg kunnen controleren, dan kunnen we uiteindelijk haar gedrag volledig sturen. Skinners behavioristische ideeën zijn in intellectuele kringen nooit helemaal serieus genomen (zeker niet na de oorwassing door Noam Chomsky). Maar ze zijn een belangrijke inspiratiebron geweest in het ontwerp van ‘overtuigingstechnologie’. Een aanzienlijk deel van de hoofdrolspelers in The Social Dilemma, waaronder Harris, zijn alumni van het Stanford Persuasive Technology Lab.

Volgens B.F. Skinner is het idee van de ‘autonome mens’ een pseudo-verklaring voor gedrag

Waar er voor Pinker geen probleem is, is er voor Skinner geen oplossing. Het is een onomkeerbaar gegeven dat technologie het mogelijk maakt om gedrag tot in detail te kunnen sturen. De vraag is wat we met deze verkregen macht doen. Skinner had hier zo zijn eigen ideeën over. In zijn roman Walden Two beschrijft hij een ‘utopische’ commune waarin verregaande gedragsmodificatie vanaf jonge leeftijd zorgt voor een egalitaire en rechtvaardige samenleving. Individuele vrijheid en autonomie staan zo’n samenleving alleen maar in de weg.

De mens als gebruiker en ontwerper

Het dubbele ‘we’ in dit stuk, wij als gebruikers en wij als ontwerpers, geeft de inherente spanning weer in het Skinneriaanse wereldbeeld. In de documentaire vertelt Tim Kendall, oud-CEO van Pinterest, hoe hij overdag werkte aan het uitbouwen van Pinterest en ‘s avonds, ondanks zijn jonge gezin, zijn telefoon niet kon wegleggen. Ook de mensen die overtuigingstechnologieën implementeren zijn gevoelig voor haar verleidingen.

Inmiddels sturen Kendall en de zijnen hun kinderen naar speciale technologievrije scholen om hun kroost zo lang mogelijk vrij te stellen van de invloed van de overtuigende technologie die ze zelf hielpen creëren.

The Social Dilemma hinkt op twee gedachten. Aan de ene kant is er het narratief dat onze evolutionaire programmering ons zo vatbaar voor beïnvloeding maakt, dat er weinig hoop is. De Amerikaanse bioloog E.O. Wilson vat deze positie goed samen: “Het fundamentele probleem van de mensheid is dat we prehistorische emoties, middeleeuwse instituties en goddelijke technologieën hebben.”

Aan de andere kant laat The Social Dilemma juist zien dat techniek mensenwerk is. Jeff Hammerbacher zegt het eloquent: “The best minds of my generation are thinking about how to make people click ads. That sucks.”

Ook de mensen die overtuigende technologieën implementeren zijn gevoelig voor haar verleidingen

Het punt is dat het knappe koppen zijn: blijkbaar zijn we, tussen het doomscrollen door, nog best in staat om onze prehistorische emoties aan de kant te zetten en hoogwaardig intellectueel werk af te leveren. Zo hopeloos is de situatie toch ook weer niet.

De huidige toestand is onhoudbaar en (van een afstandje bekeken) lachwekkend: we staan het grote bedrijven toe om virtueel elk aspect van menselijk gedrag te monitoren en in geld om te zetten. De menselijke geest zelf is de grondstof geworden van het kapitalistische systeem. Dit surveillancekapitalisme heeft als doel om een advertenties zo succesvol mogelijk te maken, met als bijeffect dat menselijk handelen steeds voorspelbaarder wordt.

Het echte sociale dilemma

Dat er iets aan deze situatie gedaan moet worden is duidelijk. De twee gedachten waarop The Social Dilemma hinkt, vertalen zich in twee manieren waarop we voor #teamhuman kunnen kiezen – en die moeilijk met elkaar te rijmen zijn.

Aan de ene kant kunnen we Skinners wereldbeeld nastreven en door middel van massale gedragsverandering mensen laten doen wat goed voor ze is. We blijven ‘overtuigingstechnologie’ perfectioneren, maar gebruiken haar niet voor surveillancekapitalisme maar voor surveillancepaternalisme.

Aan de andere kant kunnen we besluiten om in de bres springen voor autonomie en elke gebruiker zeggenschap over haar directe digitale ruimte te geven. Daaromheen bouwen we een firewall die de gebruiker beschermt tegen de scherpste kanten van het surveillancekapitalisme.

Tussen het doomscrollen door zijn we best in staat om onze prehistorische emoties aan de kant te zetten

Deze fundamentele keuze tussen autonomie en paternalisme is geenszins nieuw, maar wordt op scherp gezet door het succes van overtuigingstechnologieën. We zien de kwetsbaarheid en beïnvloedbaarheid van menselijk handelen en tegelijkertijd de enorme problemen die ons te wachten staan in de 21ste eeuw.

Het is één ding om te zeggen dat je #teamhuman kiest, maar in het kiezen voor #teamhuman ligt een ongemakkelijke keuze besloten. Dat is volgens mij het echte dilemma.

Verder lezen

Frictie van Miriam Rasch

The Age of Surveillance Capitalism van Shoshana Zuboff

Stand out of Our Light  van James Williams

Hoe verandert het Internet je manier van denken? van John Brockman (editor)

Beyond Freedom and Dignity van B.F. Skinner

Vond je dit een goed artikel? Bij Nader Inzien zet zich in voor de verspreiding van serieuze filosofische kennis en analyse. We kunnen het platform draaiende houden dankzij de inzet van vrijwillige auteurs en redacteuren en de steun van lezers zoals jij. Word daarom vriend van BNI of steun ons met een donatie.

Meer:

3 Comments

  1. Geachte heer Bruineberg,

    Indien wij aanspraak willen maken op het ‘echte’ sociale dilemma, dan lijkt het mij toch minstens een klein beetje logischer om te schrijven over die miljarden planeetbewoners onder ons die geen internet hebben, en die in groten getale nog steeds analfabeet zijn. Voor hen is uw beschouwing immers een non-issue. Hen al dan niet vergelijken met ons lijkt mij bepalend voor de al te grote vooringenomenheid van bemiddelden over sociale media, en over sociale werkelijkheidszin in het algemeen neem ik aan. Ik kan mij niet voorstellen dat u ons met deze analyse wil afleiden van de extreme financiële ongelijkheid die onze planeet bedreigt, – dus niet onmiddellijk één of andere ‘goddelijke’ technologie –, of dat u ze zelfs onder de mat wil vegen. Maar een lichte waarschuwing in die richting lijkt mij hier niet te misstaan, als ik mij niet vergis.

  2. Wat we meemaken is een revolutie: uitgevoerd door onethische technologie experts en marketing experts, maar vooral gedreven door zeer grote en zeer vele aandeelhouders, gesteund door het topmanagement in de techbedrijven en hun klanten in het grote bedrijfsleven. Inmiddels ook door regiems in grote landen zoals China, USA, Rusland, Iran die hun eigen politieke revolutie hiermee ondersteunen. Er zullen er meer volgen, want succes is bewezen.
    Hun doelstelling is om hun doelgroepen voor geldelijke- en politieke winst en hun eigen machtsbasis te beheersen. Een oude marketing strategische doelstelling die 50 jaar geleden nog relatief onschuldig was, omdat de tools nog niet zo effectief waren, maar inmiddels de wereld maatschappij ontwrichten, juist door de effectiviteit. Dit wordt nu in marketing strategische termen disruptie genoemd.
    Geef hiervan niet de technologie de schuld, maar de mensen die technologie, gebrek aan wet- en regelgeving, gebrek aan fatsoen, internet, incompetente politici en regeringen en onnozele burgers misbruiken. De bedrijven en regiems die hiervan hun business- en politieke model gemaakt hebben behoren tot de grootste van de wereld en worden gefinancierd door de meest kapitaalkrachtige investeerders, organisaties en personen.
    We moeten ons goed realiseren dat deze revolutie van de super manipulanten gedreven wordt door een extreme vorm van neoliberalisme als gedachtengoed en haar uitbuitingssysteem van consumenten, burgers en landen.
    Langzaam ontwikkelt zich het besef dat we te maken hebben met één van de grootste maatschappelijke problemen, vergelijkbaar met de klimaat- en milieu problematiek. Ze ontstaan ook door dezelfde actoren en hun verleiding- en verslavingsstrategie van de miljarden onnozelen. Ze vormen een drie-eenheid.
    Deze revolutie leidt m.i. naar onze ondergang.
    Als een revolutie ons niet bevalt, is conta-revolutie het enige antwoord. Dat kan door het afbreken van hun machtsbasis, opstand en koop/gebruiks staking, wet en regelgeving, verboden en beperkingen. Denk niet dat een goede discussie met deze criminelen zinvol is.
    Daarom moet de kern van het kwaad worden aangepakt: de grenzeloosheid van het neoliberalisme en zijn destructieve macht. Dan moet je wel van goede huize komen, want het zal een cultuurstrijd zijn tegen de machtigen der aarde die hun huid duur zullen verkopen.
    Wij moeten voorkomen dat de oude destructieve fossiele machtigen worden vervangen door de nieuwe destructieve techmachtigen.
    Ik zie hierin een belangrijke rol voor een grote coalitie van de grote goedwillende machtsblokken op aarde:
    de EU, de democraten in de USA, de grote groep democratische middelgrote en kleinere landen, ethische grote investeerders, nieuwe maatschappelijke leiders, en alle burgers met verstand op aarde.
    Laten we beginnen met naming & blaming en kopersstakingen en het zoeken naar nieuwe maatschappelijke leiders met impact.

  3. Beste heer Braeken,

    Dank voor uw reactie. De titel refereert naar de documentaire The Social Dilemma, waarin denk ik een ongemakkelijk dilemma onbesproken blijft. Ik heb deze proberen boven water te krijgen.

    U heeft groot gelijk als u zegt dat er andere grote sociale problemen zijn zoals analfabetisme en geen toegang hebben tot internet, die zeker ook die claim verdienen. De realiteit is denk ik dat de twee problemen op vrij complexe manieren met elkaar verweven zijn. Het door Facebook uitrollen van gratis Internet in delen van Afrika is hier een voorbeeld van. Dit is geen liefdadigheidswerk. Hoe gewenst dit is, is niet een discussie die ik (of wij) vanaf hier zou moeten voeren, maar ik verwijs graag naar een recent blog van Abeba Birhane:

    https://abebabirhane.wordpress.com/2019/07/10/the-algorithmic-colonization-of-africa/

    Het werk van Shoshana Zuboff (die in de verder lezen lijst staat) is hierin ook zeer relevant. Volgens Zuboff is de dynamiek die ik (vanuit een meer cognitiewetenschappelijk perspectief) aanstip in mijn stuk nauw verbonden met een nieuwe “uit de bocht gevlogen” vorm van kapitalisme (“surveillantiekapitalisme”). In dit licht bezien is het uitrollen van Internet in de Derde Wereld een verdere manier om aandachtskapitaal te vergaren.

    Ik heb me in dit stuk een beetje bij mijn cognitiefilosofische leest proberen te houden. Maar U heeft gelijk dat een waarschuwing in die meer geopolitieke richting op zijn plaats was geweest.

    Hartelijke groet,
    Jelle Bruineberg

Laat een reactie achter aan Jelle Bruineberg Antwoord annuleren

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *