Door Leon Geerdink (Promovendus Radboud Universiteit Nijmegen)

Vorig jaar werd Elon Musk, CEO van onder meer Tesla en SpaceX, tijdens Code Conference 2016 door een journalist gevraagd of hij dacht dat we in een computersimulatie leefden. Hij antwoordde toen: “There’s a billion to one chance that we’re living in base reality […] or civilization will cease to exist”. Oftewel, Musk achtte de kans dat we niet in een simulatie leven verwaarloosbaar klein.

Voor Musk en zijn aandeelhouders is het natuurlijk belangrijk dat hij in de publieke belangstelling blijft staan. En dit was ook zeker het gevolg van zijn uitspraak. Onder meer The Guardian, The New Yorker en Vox besteedden uitgebreid aandacht aan Musks fantasierijke mening. Maar speelde Musk hier slechts de rol van de excentrieke CEO of is zijn bewering ook filosofisch interessant?

Bostroms Simulatieargument

In mijn ogen zijn Musks beweringen wel degelijk filosofisch interessant. Hij populariseerde daarmee namelijk een argument van de Zweedse filosoof Nick Bostrom, die onder meer bekend is als de auteur van de bestseller Superintelligence: Paths, Dangers, Strategies. Bostroms oorspronkelijke paper, getiteld “Are you living in a computer simulation?”, vindt u hier, naast ander interessant gerelateerd materiaal. In het genoemde paper verdedigt Bostrom de stelling dat het mogelijk is dat we in een computersimulatie leven.
Bostroms argument berust op twee vooronderstellingen. De vooronderstelling dat bewustzijn op verschillende manieren geïmplementeerd kan zijn en de voorspelling dat onze beschaving in de toekomst over praktisch oneindig veel rekenkracht en opslagcapaciteit zal beschikken.

Laten we beginnen met de eerste vooronderstelling. Normaal gesproken denken we dat bewustzijn het product is van onze hersenen (of wellicht van ons hele lichaam). Wat onze hersenen doen is informatie verwerken. Het idee is nu dat alle systemen die voldoende informatie kunnen verwerken ook bewustzijn kunnen produceren. In het bijzonder geldt dit voor computers. Dit wordt vaak als plausibel gezien, omdat het ons ook mogelijk lijkt om in de toekomst kunstmatig bewustzijn te scheppen in robots (denk hierbij aan Westworld) en wellicht ook dat we in de toekomst ons eigen bewustzijn in de Cloud zullen kunnen uploaden.

De tweede aanname, dat onze reken- en opslagcapaciteit zal blijven toenemen, lijkt ook niet onplausibel. De bekende wet van Moore (de computerwetenschapper, niet de filosoof) stelt dat onze rekenkracht elke twee jaar verdubbelt en een dergelijke wetmatigheid geldt ook voor opslagcapaciteit. Nu is Moores wet natuurlijk geen echte wetmatigheid maar een empirische generalisatie. Dat onze rekenkracht de afgelopen decennia elke twee jaar is verdubbeld betekent niet dat onze rekenkracht ook in de toekomst elke twee jaar zal blijven verdubbelen. Er zijn redenen om te denken dat deze exponentiële groei in rekenkracht momenteel aan het afvlakken is. Eén reden daarvoor is bijvoorbeeld dat computeronderdelen inmiddels zo klein zijn geworden dat ze last krijgen van kwantumeffecten. Groei in rekenkracht kan dus niet bereikt worden door verdere miniaturisatie. Daarvoor is een nieuwe technologische innovatie noodzakelijk. Desalniettemin lijkt het niet onredelijk te denken dat onze rekenkracht over tienduizend jaar een veelvoud zal zijn van wat het nu is.

Gegeven deze twee aannames komt er een moment in de toekomst waarin we de menselijke ervaring volledig kunnen simuleren. En, gegeven dat we praktisch oneindig veel rekenkracht zullen hebben, zal er ook een moment in de toekomst komen dat we een hele beschaving zullen kunnen simuleren. En ook een moment waarop iedereen die dat wil dat gewoon vanuit thuis zal kunnen doen op zijn eigen computertje.

De vraag is nu, hoe waarschijnlijk is het dat wij zelf zo’n gesimuleerde beschaving zijn gegeven deze aannames? Volgens Bostrom (en Musk volgt hem hierin) is deze kans onmetelijk veel groter dan de kans dat we niet zo’n gesimuleerde beschaving zijn. Het argument is hier eigenlijk heel simpel. Van al het bewustzijn in het universum zal het overgrote gedeelte gesimuleerd zijn en slechts een kleine deel oorspronkelijk. Dit komt omdat oorspronkelijke individuen hele beschavingen zullen kunnen simuleren. En, gegeven de aanname van praktisch oneindig veel rekenkracht, zullen deze gesimuleerde individuen zelf ook ieder weer hele beschavingen kunnen simuleren, en deze gesimuleerde individuen zelf ook weer, en deze ook weer. En zo niet ad infinitum dan toch zeker ad nauseam. Voor elk oorspronkelijk bewustzijn zal er dan een onmetelijke hoeveelheid gesimuleerd bewustzijn bestaan. Aangezien wij niet weten waar wij zelf in deze simulatiehiërarchie zitten lijkt het niet onredelijk om aan te nemen dat de kans dat wij zelf oorspronkelijk bewustzijn zijn verwaarloosbaar klein is.

Bewijst Bostrom echt dat we in een computersimulatie leven?

Natuurlijk is Bostroms argument erg speculatief. Misschien kunnen computers helemaal geen bewustzijn simuleren, bijvoorbeeld omdat bewustzijn niet slechts het product is van informatieverwerking. Het kan heel goed dat onze hersenen bepaalde materiële eigenschappen hebben (en computers niet) die cruciaal blijken te zijn voor het produceren van bewustzijn, net zoals koolstofverbindingen cruciaal lijken te zijn voor leven. Denk hier ook aan John Searles beroemde Chinese Room argument (zie dit filmpje voor een korte bespreking). Daarnaast is het mogelijk dat Moores wetmatigheid dusdanig afvlakt dat er nauwelijks nog toename in rekenkracht zal zijn. Toekomstige generaties zullen dan onvoldoende rekenkracht bezitten om de simulatiehiërarchie te grondvesten die Bostrom nodig heeft voor zijn argument. Een andere mogelijkheid is dat technologisch geavanceerde beschavingen misschien wel bewustzijn kunnen simuleren, maar dit niet of nauwelijks zullen doen omdat ze zich moreel verantwoordelijk voelen voor het lijden van hun gesimuleerde schepsels.

Ook kunnen we ons goed voorstellen dat het scheppen van digitaal bewustzijn aan sterke banden zal worden gelegd, net zoals het klonen van mensen nu. Wellicht is het wel het geval dat beschavingen die technologisch geavanceerd genoeg zijn om bewustzijn te creëren zichzelf over het algemeen vernietigen, bijvoorbeeld in een nucleaire holocaust of omdat ze geneigd zijn per ongeluk een kwaadwillend of onverschillig superintelligent AI-systeem te creëren. (Dit is ook een mogelijkheid die Bostrom zelf in zijn paper voor reëel houdt. Musk verwijst naar deze mogelijkheid wanneer hij stelt dat “[…] or civilization will cease to exist”). Bostroms argument bewijst dus helemaal niet dat we hoogstwaarschijnlijk in een computersimulatie leven (als zodanig is Musks weergave van het argument een beetje misleidend). Waarom is het dan toch interessant?

Epistemologisch versus metafysisch scepticisme

Op eerste gezicht lijkt Bostroms argument slechts een gemoderniseerde versie van sceptische argumenten die we in de filosofie zo vaak tegenkomen. Niets bijzonders. De beroemdste voorbeelden hiervan zijn ongetwijfeld de sceptische scenario’s die Descartes o.a. in zijn Meditaties bespreekt. Daar bespreekt Descartes het probleem dat we niet zeker lijken te kunnen weten dat onze ervaring zich niet in een droomwereld afspeelt of door een kwaadaardig demon veroorzaakt wordt. (Descartes probeert dit probleem op te lossen, zoals u weet, door te stellen dat een algoede God, wiens bestaan hij denkt te kunnen bewijzen, zulke radicale misleiding van zijn schepsels niet zou toestaan). Hillary Putnams gedachte-experiment dat onze ervaring ook voortgebracht zou kunnen zijn door een kwaadaardige neurowetenschapper die in onze hersenen prikt is zo’n moderne versie van Cartesiaanse twijfel.

Maar deze oppervlakkige overeenkomst is misleidend. Het is namelijk belangrijk om twee vormen van scepticisme te onderscheiden: epistemologisch scepticisme en metafysisch scepticisme. Epistemologisch scepticisme stelt dat we niet met zekerheid kunnen weten dat we niet radicaal misleid worden, hoe onwaarschijnlijk we zo’n scenario ook vinden. Het stelt dus de mogelijkheid van kennis ter discussie, niet de aard van de werkelijkheid. Metafysisch scepticisme daarentegen stelt dat het een reële mogelijkheid is dat de aard van de werkelijkheid anders is dan we normaal gesproken geneigd zijn te denken. Wat Bostroms argument zo interessant maakt is dat het juist voor dit metafysisch scepticisme argumenteert. Bostrom beargumenteert niet dat we niet 100% zeker kunnen weten dat we niet in een computersimulatie leven, maar dat het een reëel mogelijkheid is dat we wel in zo’n simulatie leven. En zulke argumenten komen we in de hedendaagse filosofie niet vaak tegen.

Hoe reëel we deze mogelijkheid precies moeten inschatten hangt van veel factoren af. Bostrom zelf denkt dat de mogelijkheid dat we in een computersimulatie leven even waarschijnlijk is als de mogelijkheid dat simulatie van bewustzijn onmogelijk is of dat bewustzijnssimulaties niet grootschalig zullen worden uitgevoerd. Musk lijkt te denken dat het een 50/50 is, hoewel zijn publieke uitspraken te vaag zijn om hier iets definitiefs over te zeggen. U denkt misschien zelf dat het simulatiescenario veel onwaarschijnlijker is dan de andere mogelijkheden die ik heb besproken. Maar na het lezen van dit stuk denkt u waarschijnlijk wel dat het een reële mogelijkheid is dat we in een computersimulatie leven, ook al acht u deze mogelijkheid misschien kleiner dan Bostrom of Musk. Zodra u er echter van overtuigd bent dat het simulatiescenario inderdaad een reële mogelijkheid is, slaagt Bostrom er al in u tot metafysisch scepticus te maken. En dat is nu precies wat dit argument zo interessant maakt.

Meer hierover lezen op BNI?


Meer:

Volg ons op

TwitterInstagramFacebook

Op de hoogte blijven per mail?

Wanneer wil je een e-mail ontvangen?

Steun ons

Doneer Word vriend

3 Comments

  1. Heeft metafysisch scepticisme ook epistemologisch scepticisme tot gevolg? Met andere woorden, is iedereen die een metafysisch scepticus is, ook meteen een epistemologisch scepticisme?
    En is Bostrom ook een epistemologisch scepticus?
    Het lijkt me dat wanneer je denkt dat het een reële mogelijkheid is dat we in een simulatie leven, je ook moet toegeven dat er geen enkele mogelijkheid is om daar achter te komen (anders dan in sommige science-fictionverhalen zoals The Matrix). Maar misschien zie ik iets over het hoofd?

    1. Dat we momenteel niet weten of we in een simulatie leven zegt niets over onze (toekomstige) mogelijkheden deze hypothese te toetsen. Als zodanig zegt het simulatieargument niets over de mogelijkheid van kennis (en impliceert dus geen epistemologisch scepticisme).
      Hier is wat Bostrom zelf zegt over de toetsbaarheid van de simulatiehypothese (http://www.simulation-argument.com/faq.html):
      “There are clearly possible observations that would show that we are in a simulation. For example, the simulators could make a “window” pop up in front of you with the text “YOU ARE LIVING IN A COMPUTER SIMULATION. CLICK HERE FOR MORE INFORMATION.” Or they could uplift you into their level of reality.
      We could also obtain strong indirect evidence, such as one day observing that we ourselves have created the appropriate kind of computer simulations. If we were to learn more about the probability of survival for human-like species, that could also be relevant information. For instance, if we learnt that the existential risks we will be confronting are so large that we should expect practically every advanced civilization to succumb to them, that would reduce the probability of the simulation-hypothesis. One can think of a large number of other possible pieces of observational evidence, as well as more indirect theoretical results, that would either increase or decrease the probability of the hypothesis. So in this sense, the simulation-hypothesis is clearly testable.
      Now one might wonder whether there is any kind of test that we could conduct in the near term that would cast light on which of the three disjuncts is true. I doubt that there is any simple experiment that will do this – like mixing some chemicals together in a bottle and checking whether they turn red or blue. (Most theoretical science is of course untestable in this sense, so it is not a useful criterion for whether something is worth taking seriously.) But there might well be some clever analyses that we could do that would show that some piece of observational evidence is relevant in some surprising way to probabilities of the simulation-hypothesis and the other disjuncts. It might be too much to hope for that we could think of any such analysis that would give conclusive or extremely strong evidence about which of the three disjuncts is true, but I think it might be feasible to get evidence that would at least give weak clues and conditional hints.”

  2. Volgens mij is onze fantasie even grenzeloos als ons bijgeloof, al te dikwijls voorgesteld als ‘geloof’ of ‘bewijs’, en moeten dergelijke toch redelijk absurde sumulatieoefeningen enkel in beide sferen worden gezocht. Misschien mag ‘informaticaal bijgeloof’ of ‘virtueel bijgeloof’ dan redelijk nieuw zijn : mij lijken beide mogelijkheden alvast tien keer reëler dan zulke existentiële simulaties.

    Verder vertoont dit fantasierijke geheel van hypothetische simulatieve vooronderstellingen volgens mij al te grote gelijkenissen met tamelijk klassieke gevallen van depersonalisatie en derealisatie, gekoppeld aan en/of absoluut afhankelijk van gedwongen personalisaties en realisaties van computers – veroorzaakt door onze huidige, extreem stressvolle en niet zelden traumatiserende virtualisering van menselijke relaties op alle vlakken (familiaal, sociaal, (geo)politiek, financieel, …). Tenzij het niet meer is dan een luxevlucht uit de werkelijkheid die alleen maar tijdelijk kan zijn, gevolgd door een harde landing.

    Tot slot kan ik mij levendig voorstellen dat er binnen tien à twintig jaar niet veel meer te simuleren zal zijn, wanneer grootschalige milieurampen en nieuwe virussen de menselijke soort volledig van deze aardbol dreigen te vegen. Dan zal niemand nog dromen van computersimulaties of rekenkracht vrees ik, maar eerder van een stuk brood dat er niet meer is, of van drinkbaar water dat onvindbaar is.

Comments are closed.