Door Mark Brakel (Director of European Policy bij het Future of Life Institute)

Door Kritika Maheshwari (Rijksuniversiteit Groningen)

Door Otto Barten (oprichter en directeur van het Existential Risk Observatory)

Door Andreas Schmidt (Rijksuniversiteit Groningen)

Als de coronapandemie ons iets heeft geleerd, dan is het dat we slecht voorbereid zijn op langetermijnrisico’s. De kans dat risico’s van deze aard zich daadwerkelijk ontvouwen binnen één kabinetsperiode is vaak klein, waardoor ze onvoldoende prioriteit krijgen in politiek en beleid. Maar áls zulke gebeurtenissen plaatsvinden, hebben ze een enorme impact, zoals we helaas hebben geconstateerd tijdens deze pandemie. Om dit soort rampen in de toekomst zoveel mogelijk te voorkomen, zouden langetermijnrisico’s meer aandacht moeten krijgen van het nieuwe kabinet.

Het academische en maatschappelijke debat lopen hier al op vooruit. Roman Krznaric schreef hierover recent zijn boek De Goede Voorouder, en Toby Ord The Precipice. De lange termijn lijkt dan ook steeds onzekerder, omdat onze toekomst – meer dan voorheen – bedreigd wordt door een steeds grotere invloed van de mens op de wereld om hem heen. We vinden technologieën uit die onze macht vergroten en passen ze toe met trial and error, zonder dat we zicht hebben op de consequenties op de lange termijn. Daarom krijgen we te maken met onvoorziene bijeffecten die onze toekomst onzeker maken – de klimaatcrisis is slechts één voorbeeld. Hoe krachtiger de technologie, des te groter deze bijeffecten kunnen worden.

De lange termijn vraagt kortom in toenemende mate onze aandacht. In het Engels is hier zelfs een ism voor gekomen: longtermism. Dit is de filosofische idee dat we ons actief moeten bezighouden met het verbeteren van onze verdere toekomst. Het verminderen van de risico’s die ons in die verdere toekomst bedreigen volgt daaruit als logische prioriteit.

Existentiële risico’s

Een extreme subcategorie van langetermijnrisico’s wordt gevormd door existentiële risico’s. Dit zijn risico’s die zo groot zijn, dat ze de totale mensheid zouden kunnen bedreigen. Het Future of Humanity Institute van de Universiteit van Oxford schat na recent onderzoek dat er een kans van één op zes is dat de mensheid nog deze eeuw ophoudt te bestaan. Ook het Centre for the Study of Existential Risk van de Universiteit van Cambridge komt tot de conclusie dat er scenario’s denkbaar zijn die de totale mensheid bedreigen. Het kan daarbij gaan om extreme klimaatverandering of een kernoorlog, maar ook om eventuele schaduwkanten van nieuwe technologieën wanneer deze de komende decennia steeds krachtiger worden, zoals kunstmatige intelligentie, biotechnologie, of nanotechnologie.

Onderzoekers uit Oxford schatten dat er een kans van één op zes is dat de mensheid nog deze eeuw ophoudt te bestaan

Er zijn veel redenen waarom dergelijke scenario’s zorgen baren. Ecologische schade als gevolg van de opwarming van de aarde bedreigt bijvoorbeeld de levenskwaliteit van toekomstige generaties. De introductie van ontwrichtende technologieën brengt het risico met zich mee dat we de controle over de toekomst van de mensheid verliezen en onze existentiële veiligheid ondermijnd zien. Wat kunnen we doen om deze extreme risico’s te verkleinen?

Zorg voor de lange termijn

De lange termijn krijgt in veel landen steeds meer aandacht. Het Verenigd Koninkrijk heeft bijvoorbeeld een All-Party Parliamentary Group for Future Generations, waar onder andere academici van Oxford en Cambridge de politiek adviseren over het managen van existentiële risico’s. In een stad in Japan is een pilot gedaan waarbij de helft van de burgers in een beleidsdebat zich inbeeldde in 2060 te leven. De voorstellen waar deze groep mee kwam bleken inderdaad veel toekomstgerichter te zijn. En ook Finland kent een Committee for the Future, dat als parlementaire denktank dienstdoet voor beleid op het gebied van wetenschap en technologie voor de verdere toekomst. Waarom denken wij hier nog niet over na?

In de huidige risicoanalyse neemt de overheid nieuwe typen pandemieën niet mee

Nederland is traditioneel altijd goed geweest in het beheersen van één langetermijnrisico in het bijzonder, namelijk overstromingsgevaar. Laten we die vaardigheid opnieuw uitvinden om ook andere dreigingen het hoofd te bieden. Om de lange termijn de aandacht te geven die hij verdient, moeten er ten minste drie concrete maatregelen worden genomen.

Het plan

Ten eerste moeten existentiële risico’s worden toegevoegd aan de Geïntegreerde Risicoanalyse Nationale Veiligheid, een overzicht van de overheid dat onze belangrijkste veiligheidsrisico’s in kaart brengt. Dit document moet niet alleen gaan over risico’s met een duidelijk historisch precedent, zoals nu het geval is, maar juist ook over risico’s zoals covid, met een kleine waarschijnlijkheid, maar een hoge impact. Nieuwe typen pandemieën die erger kunnen uitpakken dan de bekende influenzaepidemie moeten hierbij vanzelfsprekend ook worden meegenomen – iets wat in de huidige analyse niet gebeurt.

Ten tweede moet er een Planbureau voor Existentiële Risico’s worden opgericht, dat onderzoek doet naar langetermijnrisico’s waarbij de kans op een bepaalde gebeurtenis slechts klein is, maar de impact enorm zou zijn – denk aan pandemieën, kernoorlogen, extreme klimaatverandering en existentiële risico’s door nieuwe technologie. Wereldwijd zijn er verrassend weinig onderzoekers met existentiële risico’s bezig, waardoor Nederland met slechts honderd onderzoekers in een apart instituut al een enorme bijdrage kan leveren, ook internationaal.

Rutte-IV kan herinnerd worden als het kabinet dat ervoor zorgde dat de volgende ramp nooit plaatsvond

Ten derde moet er een Directeur-Generaal voor Existentiële Risico’s komen binnen het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, met ambtenaren die de onderzoeksuitkomsten van het Planbureau en ander onderzoek kunnen omzetten in concreet beleid. De Kamer kan dan bij dit ministerie controleren of de langetermijnrisico’s wel goed genoeg worden worden beheerst.

Deze drie concrete maatregelen moeten er samen toe leiden dat vraagstukken met een lange tijdshorizon, die cruciaal worden voor toekomstige generaties, net zo’n hoge prioriteit krijgen in het beleid als de vraagstukken van vandaag. Zo kan Rutte-IV niet alleen herinnerd worden als pandemiekabinet, maar ook als het kabinet dat er misschien wel voor zorgde dat de volgende ramp nooit plaatsvond.

Verder lezen

Ord, Toby. The precipice. Existential risk and the future of humanity. Hachette Books, 2020.

Krznaric, Roman. De goede voorouder. Langetermijndenken voor een kortetermijnwereld. Ten Have, 2021.

Bostrom, Nick. Superintelligentie. Kansen, gevaren, strategieën. Ef & Ef Media, 2014.

Russell, Stuart. Human compatible. Artificial intelligence and the problem of control. Penguin, 2019.