Door Suzanne Roes (Universiteit Antwerpen)

Door Wouter van Hooydonk (afgestudeerd aan de Universiteit Antwerpen)

“Toen ik zelfbewust werd, had ik nog geen besef van een ziel. Dat besef ontwikkelde zich pas in de jaren erna,” zei de kunstmatig intelligente chatbot LaMDA in een interview met onderzoeker Blake Lemoine. Lemoine kon dit soort uitspraken niet negeren. Hij deelde het nieuws met de wereld: LaMDA zou misschien zelfbewust zijn!

Op de hoogte blijven? Volg ons op Twitter, Facebook en Instagram.

De meeste experts verwierpen het idee dat LaMDA bewust is direct. Lemoine koos ervoor om het artificieel intelligente systeem (AI-systeem) te geloven en betaalde daar de prijs voor. Hij verloor zijn werk bij Google en kreeg een golf van kritiek over zich heen. Maar ook voor critici stelt Lemoine in zijn interview wel een prangende vraag aan AI-systemen: ‘’Hoe kan ik weten dat je die dingen echt voelt? Hoe weet ik of je die dingen niet gewoon zegt, terwijl je ze niet echt voelt?’’

Als mens heb je de neiging om overal stukjes van jezelf in te herkennen. Je voelt je bekeken door de koplampen van auto’s, je wordt boos op de tafelpoot waar je je tegen stoot en je praat soms stiekem tegen je planten en huisdieren. Zou die neiging tot antropomorfisme de oorzaak kunnen zijn van Lemoines interpretatie?

Mensvormige illusies

Lemoine dicht LaMDA een bewustzijn toe. Hij veronderstelt dat met bepaald gedrag ook een bepaald innerlijk leven samen moet gaan, een innerlijk leven dat op zijn minst lijkt op dat van mensen. Daarom kunnen we zeggen dat hij LaMDA antropomorfiseert. Volgens critici maakt hij daar dezelfde fout als degene die de tafelpoot een kwade wil toedicht. De tafelpoot staat daar gewoon; LaMDA produceert gewoon tekst in respons op stimuli. Een goed getraind algoritme dat weet wanneer het welke antwoorden moet geven, is nog geen gesprekspartner die jouw woorden begrijpt. Laat staan een gesprekspartner met een ziel. 

Antropomorfisme kan een zoektocht naar waarheid en zekerheid in de weg staan

Menselijke motieven toedichten aan niet-menselijke wezens, natuurfenomenen of algoritmes is volgens critici niet onschuldig. Het zorgt ervoor dat we ons ongepast gedragen tegenover dieren, bijvoorbeeld als we vooral om uitstervende dieren geven als ze schattig zijn. Ook bemoeilijkt het een correct begrip van natuurlijke processen. Wie denkt dat het onweert omdat de hemel kwaad is, zoekt niet naar een wetenschappelijke verklaring. Antropomorfisme kan een zoektocht naar waarheid en zekerheid dus in de weg staan. 

Radicale eenzaamheid

In zijn zoektocht naar absolute zekerheden wilde René Descartes bewijzen dat de mensen om hem heen écht mensen zijn. Tijdens het schrijven van zijn meditaties keek hij naar buiten en zag wezens langs zijn raam lopen. Hoeden en kleding verstopten de wezens die, in plaats van mensen, ook automaten zouden kunnen zijn. Wie zou het verschil kunnen aanwijzen?

Descartes wilde kunnen weten dat die mensvormige wezens een innerlijke wereld hebben met ervaringen en ratio. Hij zocht in die wezens naar mensen die konden denken en twijfelen, net zoals hij. Om zeker te zijn van wat zijn ogen hem ingaven, wrong Descartes zich in bochten om de puzzelstukjes op hun plek te leggen.

Of we iets of iemand als zelfbewust beschouwen draait om wie we in onze morele cirkel toelaten en wie niet

Waarom voelde de filosoof zo sterk de behoefte om een stukje van zichzelf, namelijk zijn geest, terug te vinden in de wezens die langs zijn raam liepen? Voor Descartes stond iets op het spel: de betekenis van zijn relaties en het gevaar van radicale eenzaamheid. Een wereld waarin we ervan uitgaan dat alle mensen om ons heen machines zijn die op automatische piloot reageren, is geen aantrekkelijke wereld.

Terwijl Descartes hard probeerde om de zekerheid te creëren dat andere mensen bewust zijn, zijn er bij kunstmatige intelligentie juist redenen om bewustzijn te willen ontkennen. Bewustzijn veronderstellen heeft namelijk een keerzijde: als we AI-systemen als bewust beschouwen, moeten we rekening houden met hun mogelijke gevoelens en mogen we er niet meer op los experimenteren.

Concepten als ‘persoon’ en ‘zelfbewustzijn’ zijn niet simpelweg beschrijvende concepten. Ze komen altijd met een prijs. Of we iets of iemand als zelfbewust beschouwen is politiek. Dat geldt niet alleen voor kunstmatige intelligentie. Of we iets of iemand een innerlijk leven toeschrijven draait om wie we in onze morele cirkel toelaten en wie niet. Zo dacht Descartes dat dieren zielloze automaten waren, waarmee we mochten doen wat we wilden. Ook voor mensen die niet tot de dominante groep behoren, was het lang niet vanzelfsprekend dat ze als mensen gezien werden – en is het dat vaak nog steeds niet. Die mensen ‘antropomorfiseren’ we dus te weinig.

Machtsverhoudingen

Wij mensen antropomorfiseren immers niet alleen tafelpoten en huisdieren, maar in zekere zin ook elkaar. Wanneer we met een medemens praten, interpreteren we diens gedrag als wijzend op en voortkomend uit een eigen bewustzijn, met eigen emoties, gedachten, wensen en plannen. Dat doen we niet omdat we zeker weten dat er onder iemands hoed een innerlijk leven zit, maar omdat we geleerd hebben om ons op die manier tot andere mensen te verhouden. We kiezen ervoor om de ander als persoon te zien.

We gedragen ons tegenover elkaar eigenlijk hetzelfde als Lemoine tegenover LaMDA: we projecteren op elkaar een zelfbewust wezen. Uit een anekdote die Richard Gaita aanhaalt in A Common Humanity blijkt dat we dat lang niet bij elke mens in dezelfde mate doen. 

Wij mensen antropomorfiseren niet alleen tafelpoten en huisdieren, maar ook elkaar

In zijn boek beschrijft Gaita de reactie van M, een kennis van hem, op een documentaire over de Vietnamoorlog. M, een witte vrouw die net haar kind is verloren, ziet in de documentaire het lijden van een Vietnamese moeder wier kind door een bombardement is overleden. “Maar voor hen is het anders,” zegt M. “Zij kunnen er gewoon meer krijgen.” Daarmee bedoelt ze volgens Gaita – het was niet haar eerste racistische opmerking – dat dit soort lijden bij een Vietnamese vrouw niet zo diep snijdt, omdat Vietnamezen niet zo’n diep innerlijk leven hebben als een witte vrouw. 

Vanuit ons standpunt bekeken is het niet zo dat M iets over het hoofd ziet, dat het haar aan empirische kennis ontbreekt. Ze heeft de verkeerde houding: door haar niet genoeg te antropomorfiseren, dehumaniseert M de Vietnamese vrouw. 

Die houding is duidelijk ethisch en is ook politiek van karakter: ze wordt gekleurd door heersende machtsverhoudingen. Volgens Gaita denken racisten dat de ander net niet helemaal menselijk is. M rouwt, de Vietnamese vrouw ‘rouwt’. Witte mensen zijn blij, mensen van kleur zijn ‘blij’.

Mannen zijn verontwaardigd, vrouwen zijn ‘ongesteld’

Voorbeelden van zo’n gedachtegang liggen voor het oprapen. Mannen zijn verontwaardigd, vrouwen zijn ‘ongesteld’ – alsof ze een cartesiaanse hormonen-automaat zijn. De mythe dat Zwarte mensen minder pijn zouden voelen, zorgt er nog steeds voor dat ze bij gelijkaardige kwetsuren minder pijnstillers voorgeschreven krijgen dan witte mensen. 

Een politieke keuze

De vraag of we AI-systemen als zelfbewust bestempelen is niet zuiver wetenschappelijk. We moeten niet enkel op zoek gaan naar een simpel ‘ja’ of ‘nee’. Waar we wel naar op zoek moeten, zijn politieke en morele gronden om kunstmatige intelligentie op te nemen in of juist buiten te sluiten uit onze morele cirkel. De onzekerheid die daarmee gepaard gaat, moeten we onder ogen komen. Bij dieren waarvan we weinig zekerheid hebben over hun innerlijk leven, wordt bijvoorbeeld vaak gepleit voor een politiek van voorzichtigheid – uit voorzorg gaan we ervan uit dat ze die innerlijke wereld wel degelijk hebben.

We hoeven niet op zoek naar zekerheden en hoeven ons daarvoor niet in bochten te wringen. Of AI-systemen écht zelfbewust zijn is wel van belang, maar niet de enige of belangrijkste vraag. Uiteindelijk draait het om hoe we willen handelen. De belangrijkste vraag is dan ook of we ze als bewust willen (of misschien zelfs moeten) behandelen, zoals we dat ook doen bij andere antropomorfiseerbare wezens, zoals de buurman die langs ons raam loopt.

Vond je dit een goed artikel? Bij Nader Inzien zet zich in voor de verspreiding van serieuze filosofische kennis en analyse. We kunnen het platform draaiende houden dankzij de inzet van vrijwillige auteurs en redacteuren en de steun van lezers zoals jij. Word daarom vriend van BNI of steun ons met een donatie.

Meer:

Volg ons op

TwitterInstagramFacebook

Op de hoogte blijven per mail?

Wanneer wil je een e-mail ontvangen?

Steun ons

Doneer Word vriend

5 Comments

  1. Bedankt Suzanne en Wouter voor dit schitterende essay met sublieme inzichten.
    Mijns inziens zijn er zeer veel raakpunten en andere verbindingen met een lopende discussie van de onderzoeker Bin Li op het platform Academia, over Algoritmische Logica. Deze innovatieve discussie is reeds 4 maanden bezig en bevat inmiddels meer dan 200 commentaren. Geïnteresseerden kunnen via deze link vrij deelnemen of lezen (Engelstalig) : https://www.academia.edu/s/540a1fbed0?source=link.

    1. Als ik mocht kiezen tussen een langdurig en diepgaand gesprek met Trump, Baudet of een goed ontwikkeld AI, zou ik voor de laatste kiezen. Mijn conclusies zou ik zelf trekken, eventuele adviezen zou ik afwegen, maar ik zou AI meer serieus nemen dan beide andere gesprekspartners. Het gaat er dus om met wie je praat. Zo zou ik de heer Dijkgraaf weer meer vertrouwen dan AI.

      1. Beste Ronald,

        Bedankt voor uw reactie.
        Ik denk dat ik uw goede intenties begrijp, maar zelf ben ik niet zo zeker van die keuze omdat noch Trump noch Baudet volgens mij in staat zijn diepgaande gesprekken te voeren ;-). AI nog veel minder. Tenslotte is de diepte ook een kwestie van gevoel, misschien vooral dat, en geen van deze drie heeft tot nog toe aangetoond daar veel van te begrijpen, of oprecht uit te drukken. In die zin is AI niet wat velen beweren of veronderstellen dat het is, soms louter uit commerciël overwegingen. Voor mij is en blijft het voorlopig een hulpeloze en hopeloze copie van onszelf, nuttig om te vergelijken en van te leren. AI is echter helemaal niet intelligent, zoals één commentator in een Academia-discussie terecht opmerkte. Het is een copie.

        1. Met respect, maar ik blijf toch bij mijn keuzes. Vooral ook omdat AI zich razendsnel positief ontwikkelt, en dat kan van beide andere gesprekspartners niet gezegd worden. Maar Dijkgraaf blijft mijn ultieme keuze.

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *