Door Marc Slors (Hoogleraar Radboud Universiteit Nijmegen)
In zijn nieuwe boek Superintelligentie schaart Nick Bostrom (directeur van het Future of Humanity Institute van de University of Oxford) zich onder de groeiende groep wetenschappers, waaronder grootheden als Stephen Hawkins, die waarschuwen tegen de dreiging van kunstmatige intelligentie. Als we niet uitkijken kunnen de gevolgen catastrofaal zijn: wezens die vele malen intelligenter zijn dan wijzelf zouden de boel wel eens kunnen overnemen. Ik ben niet heel erg gealarmeerd door Bostrom’s betoog. Zijn redenering gaat namelijk te kort door de bocht. The devil is in the details.
Super-intelligentie definiëert Bostrom in relatie tot menslijke intelligentie: sneller, slimmer en meer. Wat menselijke intelligentie is, is een vraag die hij niet stelt. Dat is onterecht, want daardoor worden cruciale moeilijkheden in de vergelijking tussen wat we oorspronkelijk ‘intelligentie’ noemen en de kunstmatige variant daarvan onder het vloerkleed geveegd. Zo blijkt steeds meer dat menselijke intelligentie afhankelijk is van biologische factoren zoals onze belichaming en omgevingsfactoren zoals de culturele ‘niche’ die mensen wel en apen niet hebben weten op te bouwen gedurende hun evolutie. In de afgelopen 25 jaar is er in de cognitiewetenschap en –filosofie een belangrijke stroming ontstaan die draait om deze afhankelijkheid (samengevat onder de naam ‘belichaamde, gesitueerde cognitie’). Bostrom lijkt deze vrijwel te negeren.
Door niet naar de specifieke eigenschappen van menselijke intelligentie te kijken is het makkelijk een cruciaal verschil tussen mens en machine te negeren: computers en robots die vandaag de dag menselijke cognitieve taken beter kunnen dan mensen hebben een ‘cognitieve architectuur’ (kort gezegd: ‘programmering’) die volstrekt niet lijkt op die van mensen. Ze kunnen dus wat wij kunnen, vaak beter zelfs, maar doen dat op een totaal andere manier (een manier, overigens, die vele malen meer energie vraagt dan onze door evolutie efficiënt gemaakte breinen). Successvolle, taak-gerichte computers lijken dus niet op ons brein.
Dat neemt niet weg dat er computers zijn die wel op ons brein lijken. Wetenschappers zijn steeds beter in staat gedeeltes van ons biologische brein digitaal na te maken. Maar het doel van die ontwikkeling is vooralsnog vooral te begrijpen hoe ons brein werkt. De lezer van Bostrom’s boek kan echter de indruk krijgen dat het digitale brein een ontwikkeling is die in het verlengde ligt van de vele computers die menselijke taken bovenmenselijk goed kunnen. En omdat ons brein ongelooflijk veel taken, flexibel kan combineren dankzij iets dat ver uitstijgt boven taak-gerichte, specifieke intelligentie—iets dat Bostrom ‘algemene intelligentie’ noemt—kan de indruk ontstaat dat we op weg zijn naar een superbrein dat de taken die computers nu al veel beter dan ons kunnen—en meer—kan integreren. En zo ontstaat een horrorscenario van wezens met een algemene intelligentie die de onze ver overtreft.
Maar in werkelijkheid zijn computers die beter presteren dan mensen en het digitale brein gescheiden ontwikkelingen. Beide types computer werken met radicaal verschillende cognitieve architecturen. Niets wijst er op dat die ooit met elkaar verweven zouden kunnen worden. Bostrom’s horroscenario is dus alleen een optie als algemene intelligentie mogelijk is in computers die radicaal anders geprogrammeerd zijn dan ons brein. Kan dat? Zolang je relatief onduidelijk bent over de wat algemene intelligentie eigenlijk is, zoals Bostrom, kun je denken van wel.
Maar als je werkelijk inzoomt op ons menselijke niveau van flexibiliteit, creativiteit, aanpassingsvermogen en vooral ons vermogen om allerlei meer specifieke cognitieve capaciteiten te combineren in nieuwe situaties, dan wordt het anders. Voorlopig lijkt niets in de huidige toepassingsgerichte kunstmatige intelligentie ook maar in de verste verte hierop. En hoe meer deze flexibiliteit en creativiteit gegrond blijkt in onze biologie en onze lichamelijkheid, hoe minder dat verbaast. De beste hoop voor werkelijke algemene kunstmatige intelligentie is het pad van het digitale brein. Maar dat pad levert bij lange na niet genoeg toepassingen op om een economisch rendabele ontwikkeling in gang te zetten die leidt tot een intelligentie die de onze ver overtreft.
Toekomstige superintelligentie zal niet bestaan in superwezens met quasi-menselijke verlangens, gedachten en doelen. Het zal gaan om taak-gerichte toepassingen en niet om de algemene intelligentie die (met alle beperkingen die ons eigen zijn) kenmerkend is voor mensen. Er is mijns inziens dus geen reden voor Bostrom’s type van bezorgdheid. Maar alert moeten we natuurlijk wel zijn, net zoals bij andere technologische ontwikkelingen.
Fijne relativering! Dat gezegd kan ik niet wachten op de volgende blockbuster met dit thema. (Verder mist er een ‘n’ in regel zes van paragraaf 2 denk ik, schrap deze zin maar als het niet klopt/is opgelost.)
We kunnen het alleen maar eens zijn met dit artikel.
Maar voorlopig ziet het ernaar uit dat we de mens moeten duchten die denkt dat de robot beter dan de mens wordt. Het resultaat zal zijn dat we door deze misvatting weldegelijk superintelligentie moeten vrezen, dat niet zullen uitblinken door integrale intelligentie maar juist door botte domheid.
Dit type geavanceerde intelligentie is wellicht wel goed inzetbaar voor (advisering bij) oorlogvoering, repetitief “intelligent” werk, juridische besluitvorming etc.
In alles wat gerelateerd is aan emotie, houding, gedrag en psychosociale aspecten, politiek, kunst, cultuur, integrale aspecten van lichaam en geest, kortom in alles wat een mens anders maakt dan dieren, wiskunde, plussen en minnen in de digitale wereld zit onze onnavolgbaarheid. Maar dat is voor de moderne mens maar de vraag, die denkt dat hij beter is dan alle andere schepsels in de natuur. Dat is het grote probleem.