AI kan een aantal rationele taken van de mens overnemen, maar heeft (nog) niet het vermogen om daar ethisch toezicht op te houden. Voor die morele besluitvorming zijn niet de rede of primaire emoties, maar menselijke gevoelens zoals wijsheid en rechtvaardigheid van groot belang.
AI ontwikkelt in hoog tempo vergelijkbare kwaliteiten als het menselijke rationele denken. Beide gaan uit van analyse, redenering en patroonherkenning. Regelmatig duikt de vraag op of AI het menselijk bewustzijn kan vervangen. Het antwoord is sterk afhankelijk van de visie op het menselijk bewustzijn. De gangbare visie daarop is sterk beïnvloed door de stelling Ik denk, dus ik ben van de filosoof Descartes, die in zijn tweede meditatie het fundament van zekere kennis onderzocht. Voor Descartes komt het denkende zelf min of meer overeen met de geest of het bewustzijn, in zijn rationalistische filosofie wordt de rede als het fundament van kennis gezien.
Stel dat we voor zo’n ‘meditatie’ iets anders uitvoeren. Probeer eens het volgende experiment: streel zacht met je handen over je wang. Voel de aanraking. Is het mogelijk dat dit gevoel een illusie is, dat de ervaring van die aanraking niet bestaat? Of komt hieruit toch de conclusie: ‘Ik voel dus ik ben?’ Kan dit ooit ervaren worden door een combinatie van hardware en software, AI? Onwaarschijnlijk.
Je kunt dit experiment doortrekken naar andere ervaringen. Een schaakwedstrijd, gewonnen door AI. Wie ervaart dan de vreugde of het verdriet, wie ligt ervan wakker in de liefhebbende armen van diens partner? Al die aspecten van het spel zijn pas interessant als je het kunt voelen en ervaren.
Kunst? Fantastisch als AI een schilderij of muziek kan produceren. Maar het kan niet de ontroering van een schilderij of de euforie van aansprekende muziek voelen.
AI is heel goed in kennisverwerking. Dat komt vooral overeen met het rationele deel van ons menselijk bewustzijn. Als je bewustzijn, zoals Descartes, vooral als rationeel ziet, dan zou AI voor een deel wel het menselijk bewustzijn kunnen vervangen en misschien zelfs verbeteren.
Maar wat vindt AI er zelf van? ChatGPT: ‘AI kan menselijke besluitvorming ondersteunen, innovatie versnellen en efficiëntie verbeteren, maar vereist ethisch toezicht om risico’s zoals bias en misbruik te beperken.’
Blijkbaar kan AI (nog) geen ethisch toezicht genereren. Dan is een belangrijke vraag welk deel van het menselijk bewustzijn dit ethisch toezicht kan genereren. Is dat het rationele denken, of zou dat rationele denken eigenlijk hetzelfde antwoord als AI moeten geven? ‘Het rationele denken vraagt ethisch toezicht om risico’s zoals bias en misbruik te beperken.’
Emotie, gevoel en denken
Recente publicaties uit de neurowetenschappen stellen grote vraagtekens bij de mogelijkheden van het menselijke rationele denken, ook op het gebied van ethiek.
Antonio Damasio is één van de prominente neurowetenschappers die daarover stellig neemt: ‘Het denkbeeld dat de rede de leiding zou moeten nemen, moet als pure dwaasheid worden beschouwd. […] ‘Ook moet de gedachte worden afgewezen dat we simpelweg onze emoties moeten volgen.’ Damasio stelt gevoelens centraal in ons bewustzijn: ‘Gevoelens openen de deur voor een zekere mate van weloverwogen controle van de automatisch werkende emoties’. En: ‘Gevoelens leiden onze gedachten en handelingen in een bepaalde richting, bieden een fundament voor onze intellectuele overwegingen en suggereren zelfs gegronde reden voor ons handelen.’ Dat belang van het gevoel is volgens Damasio tot nu toe te weinig onderkend. Maar: ‘emoties kunnen gevoelens maskeren en verhinderen dat ze een duidelijke boodschap achterlaten’.
Het is volgens Damasio dus belangrijk om een onderscheid te maken tussen enerzijds gevoelens en anderdzijds (negatieve) emoties die die kunnen verstoren.
In de psychologie zijn er altijd stromingen geweest die aandacht vroegen voor emoties en gevoelens. Die emoties en gevoelens werden meestal slecht gedefinieerd. Daardoor bleef er veel onduidelijkheid bestaan over wat dat menselijk bewustzijn precies is en wat de rol van die emoties en gevoelens daarin spelen ten opzichte van het rationele denken.
In een eerder essay in Psyche&Brein ontwikkelde ik een model voor het bewustzijn dat uit drie delen bestaat: emotie, voelen en denken.
Veel van ons gedrag wordt geleid door primaire emoties zoals woede, haat en angst. Dat kunnen we niet direct veranderen door een gedachte. Maar we kunnen wel onze emoties doorvoelen en ons gedrag onderzoeken en daarop reflecteren. Op basis van die reflectie kunnen we intenties formuleren. Die intenties kunnen vervolgens leiden tot oefenprogramma's waardoor het langzaam maar zeker ook omgezet wordt in nieuw gedrag.
Vanuit het denken kun je dus kiezen voor intenties of waarden die centraal staan in je leven, bijvoorbeeld eerlijkheid, waarachtigheid, rechtvaardigheid en liefde. Het is echter onvoldoende om dit alleen te bedenken. Het lichaam en het gevoel moeten hierin getraind worden, in de woorden van Damasio: ‘Moreel gedrag bestaat uit een reeks vaardigheden, verworven door herhaalde oefensessies, gedurende een lange periode, op basis van bewust geformuleerde principes en redenen, wat vervolgens “een tweede natuur” in het cognitief onbewuste wordt’.
Morele keuzes
Wat betekent deze driedeling voor AI in relatie tot het menselijk bewustzijn? Hoogleraar AI Wim Haselager stelde eerder dit jaar in Psyche&Brein: ‘ ‘AI voelt niks, wil niks, gaat dus ook niet de macht grijpen.’ De verantwoordelijkheid ligt bij de makers en de gebruikers, niet bij AI. Dat betogen ook Ronald Meester en Marc Jacobs in De onttovering van AI (Psyche&Brein-winterspecial van 2024).
Hoe kunnen we dan die verantwoordelijkheid nemen en leven? Vanuit alleen rationele kennis kun je niet tot (morele) keuzes komen. Morele intenties moeten doorvoeld en geoefend worden, en dat kan AI niet.
Misschien is denken in de vorm van kennisverwerving lang een sterk overschatte vorm van het menselijk bewustzijn geweest. Maar dat soort denken kunnen we dus prima uitbesteden aan AI.
De essentie van ons mens-zijn kan nu eindelijk aandacht krijgen: het voelen (maar niet de emoties). We kunnen nu eindelijk tijd vrijmaken om dat voelen echt te ontwikkelen. Dat is hard nodig, omdat wij als mens de morele keuzes kunnen doorvoelen die de computers niet kunnen maken.
Ons bewustzijn is deels cultureel bepaald
De driedeling van het bewustzijn die ik hier beschrijf is niet alleen biologisch, maar ook cultureel bepaald. De vooraanstaande hoogleraar psychologie Lisa Feldman Barrett geeft hierover een interessante analyse. Ze stelt dat er geen universele menselijke geest is, maar dat ‘een bepaald menselijk brein en een bepaald menselijk lichaam, opgevoed en bedraad in een bepaalde cultuur, een bepaald soort geest zal voortbrengen.’ In onze westerse cultuur kunnen we dan bijvoorbeeld gedachten en emoties aanvoelen als fundamenteel verschillend, terwijl ze dat in de Balinese cultuur niet kennen. Daar ervaren ze een mengeling van wat wij denken en voelen zouden noemen. Voor hen is het één ding.
Vervolgens is deze geest geen fysieke realiteit, maar een sociale realiteit, die weliswaar tijdelijk vastgelegd kan zijn in de bedrading van je hersenen, maar die we kunnen wijzigen. Je kunt kiezen om je bloot te stellen aan nieuwe concepten en je daarin oefenen, waardoor het mogelijk is om je geest te veranderen. Een van haar adviezen is om letterlijk te gaan bewegen, waardoor de ervaring en de betekenis van die ervaring kan veranderen. Nu wordt ook begrijpelijk waarom er zoveel verschillende definities van emotie, voelen, denken zijn. De betekenis staat niet vast, deze kan wijzigen en in beweging komen.
Praktisch model: bewegen in ons bewustzijn
Om die beweging praktisch, voelbaar en uitvoerbaar te maken heb ik mijn model van denken, voelen en emoties vertaald naar een fysieke ervaring zoals we die in ons dagelijks spraakgebruik ook kennen. Ik ben daarbij ook geïnspireerd door de filosoof Wittgenstein die uitnodigt om elke keer weer zo dicht mogelijk aan te sluiten bij het dagelijks spraakgebruik.
Recent onderzoek laat zien dat ook ons hart en onze buik neurologische netwerken hebben die vergelijkbaar zijn met hersenfuncties. Damasio beschrijft het zenuwstelsel in de buik als het allereerste brein. Dit zenuwstelsel produceert 95% van de serotonine, de neurotransmitter die veel invloed heeft op onze stemmingen. Het hart produceert onder meer het liefdeshormoon oxytocine.
De neiging van veel mensen is om vast te houden aan hun eigen standpunt, dit als waarheid te zien, verbinding te zoeken met gelijkgestemden en vervolgens de strijd aan te gaan met tegenstanders. Fundamentalisten hebben de neiging om meer vanuit de primaire emotie te reageren, wat regelmatig leidt tot geweld. De dogmatici zijn juist meer gericht op de waarheid van hun eigen argumenten, en sluiten zo anderen uit. De mystici leven meer vanuit het gevoel. Ook dat kan heel eenzijdig zijn als het niet verbonden is met andere delen van het bewustzijn.
Vaststaan in je eigen waarheid kan ik als volgt in beeld brengen:
De uitnodiging is om je letterlijk te verplaatsen in het standpunt van anderen en in beweging te komen. Dat is het oefenen wat volgens Damasio, Feldman Barrett en vele anderen zo belangrijk is voor onze morele ontwikkeling.
Een vaststaande emotie zoals woede en haat kan leiden tot schadelijke fundamentalistische reacties. Vaststaande gevoelens kunnen wel over wijsheid gaan, maar blijven leeg als ze niet verbonden zijn met passie en helderheid. En vaststaande gedachten leiden tot een dogmatisch gelijk hebben als ze niet verbonden zijn met de wijsheid van het hart en de passie van de buik. Kom in beweging en verbind je emotie, gevoel en gedachtes met elkaar. Zo kun je al bewegend, oefenend en reflecterend je ethisch bewustzijn ontwikkelen.
Dat oefenen is echter voor een belangrijk deel uit onze cultuur verdwenen. Je kunt vier jaar filosofie studeren zonder een gevoel voor wijsheid te ontwikkelen, economie studeren zonder een gevoel voor eerlijkheid te ontwikkelen en vier jaar rechten studeren zonder een gevoel voor rechtvaardigheid te ontwikkelen. Dat is de rationele kennisontwikkeling die nu nog versterkt wordt door AI. Het probleem is niet nieuw, maar wel veel urgenter.
Dat vraagt dus het ontwikkelen en oefenen van ons morele gevoel op basis van goed doordachte en bediscussieerde intenties.
Literatuur
- Boer, J.W. den (2012/2013). De vrije wil is iets waar je aan werken moet. Filosofie, 22-6 en 23-1.
- Boer, J.W. den (2021). Ratio, emotie en gevoel. Pleidooi voor een nieuw bewustzijn. Psyche&Brein, augustus 2021, 86-91.
- Damasio, A. (2001). Ik voel dus ik ben. Amsterdam: Wereldbibliotheek.
- Damasio, A. (2004). Het gelijk van Spinoza. Amsterdam: Wereldbibliotheek.
- Damasio, A. (2010). Het zelf wordt zich bewust. Amsterdam: Wereldbibliotheek.
- Damasio, A. (2019). De vreemde orde der dingen. Amsterdam: Wereldbibliotheek.
- Busato, V. (2025). Ondeskundig en onverantwoord gebruik van AI ligt aan onszelf. Psyche&Brein winter Special - Gezonder met Hightech, p. 52-56.
- Handleiding voor bewust AI gebruik. Boekrecensie van De onttovering van AI, Ronald Meester en Marc Jacobs in Psyche&Brein winter Special - Gezonder met Hightech, p. 58.
- Feldman Barrett, L. (2021). Seven and a half lessons about the brain. Londen: Picador.
- Haidt, J. (2021). Het rechtvaardigheidsgevoel. Utrecht: Ten Have.
- Servan-Schreiber, Dr. D. (2006). Uw brein als medicijn. Utrecht/Antwerpen: Kosmos-Z&K.
