Verliefd op mijn digitale assistent

Her speelt zich af in het Los Angeles van de nabije toekomst. In deze setting besluit hoofdpersonage Theodor zich te wagen aan de nieuwste ontwikkeling in de Articificial Intelligence: een digitale persoonlijke assistent die intelligent is en zich ontwikkelt. Als hij het programma geïnstalleerd heeft op zijn computer, blijkt Theodor veel meer aangeschaft te hebben dan een assistent. Samantha, zoals het programma zichzelf noemt – omdat ze de naam mooi vindt klinken – maakt grappen, geeft er blijk van emoties als jaloezie, angst en onzekerheid te ervaren en is niet van een echt persoon te onderscheiden. De ongelukkige Theodor, die net herstelt van een echtscheiding, vindt in haar precies het luisterend oor dat hij nodig heeft en wordt al snel verliefd op de speelse, nieuwsgierige Samantha. Er is één kleine moeilijkheid in hun relatie: Samantha heeft geen lichaam.

De mogelijkheid van een volledig bewuste persoonlijkheid zonder lichaam levert interessante mogelijkheden op voor de mens. Op het moment dat ons lichaam dreigt te sterven zouden we ons bewustzijn simpelweg uit ons lichaam naar een digitale database kunnen uploaden, zodat we zonder de fysieke beperkingen van het lichaam eeuwig verder kunnen leven. De vraag is: is dit mogelijk, of hebben we ons lichaam toch nodig?

In eerste instantie lijkt het helemaal geen probleem om bewustzijn te hebben zonder een lichaam. Een bekend gedachte-experiment stelt het probleem als volgt: hebben wij onze armen nodig om na te kunnen denken? Het antwoord op deze vraag ligt voor de hand: nee. Als we in een ongeluk onze armen mochten verliezen, verliezen niet ineens ook onze mentale vermogens. En onze benen dan? Daarvoor geldt hetzelfde. Deze gedachtegang volgend blijven uiteindelijk alleen de hersenen over, omdat dat de enige lichaamsdelen zijn die essentieel zijn voor onze mentale vermogens. De informatie die onze hersenen produceren kan in principe gekopieerd worden naar een computer. Op deze manier kan bewustzijn dus in al zijn facetten zonder lichaam bestaan.

Het uitgangspunt van het voorgaande gedachte-experiment is het substantiedualisme van de zeventiende-eeuwse filosoof René Descartes. Volgens deze theorie is de wereld radicaal te scheiden in geestelijke en fysieke substanties. Onder fysieke substanties vallen alle natuurlijke objecten, inclusief het menselijk lichaam, onder geestelijke substanties vallen de menselijke ziel, engelen en God.

De mens is daarmee het enige wezen waarin deze twee substanties met elkaar samenkomen. Deze samenkomst is niet essentieel: lichaam en geest zijn niet wezenlijk, maar slechts toevallig met elkaar verbonden. Dit blijkt wel uit het feit dat als het lichaam van de mens sterft, de ziel volgens Descartes blijft bestaan. De ziel heeft het lichaam dus niet nodig om te bestaan. Als lichaam en ziel niet wezenlijk met elkaar verbonden zijn, waarom zou het dan niet mogelijk zijn de ziel van het lichaam te scheiden zoals hierboven beschreven in het gedachte-experiment? Bovendien zou Descartes het eens zijn geweest met wat Samantha zegt in de film: een lichaam is eigenlijk maar lastig en daarom zou het fijn zijn als iedereen van de wereld zou kunnen genieten zonder gebrekkige lichamelijkheid.

Het dualisme van Descartes is echter niet voor niets één van de meest beruchte ideeën uit de geschiedenis van de filosofie. In de hedendaagse filosofie is er groeiende groep filosofen en wetenschappers, verenigd onder de noemer Embedded Embodied Cognition (EEC), die vindt dat je lichaam en geest helemaal niet van elkaar kunt scheiden. Zich baserend op het gedachtegoed van denkers als Aristoteles en Maurice Merleau-Ponty stellen EEC-filosofen dat het mentale juist door en door beïnvloed is door de lichamelijke inbedding. Volgens deze denkwijze zou een programma als Samantha dus onmogelijk zijn.

Wat het in de film zo plausibel maakt dat Samantha niet slechts een computerprogramma is, maar een echt persoon met eigen ervaringen en bewustzijn, is het feit dat Samantha emoties lijkt te hebben. Samantha is bang als ze alleen wordt gelaten, jaloers als Theodor uit eten gaat met zijn ex-vrouw en bovendien tot over haar digitale oren verliefd op Theodor.

Het zijn echter ook precies emoties die moeilijk los te denken zijn van lichamelijkheid. Is een emotie als angst bijvoorbeeld niet onlosmakelijk verbonden met de kwetsbaarheid van ons sterfelijke lichaam? Zijn het ook niet precies de lichamelijke effecten van angst –  adrenaline, verhoogde hartslag, versnelde ademhaling – die angst maken tot de indringende ervaring die het is? Met andere woorden, kan een onsterfelijk, lichaamloos bewustzijn ooit iets als angst ervaren? Ook het gevoel van verliefdheid lijkt problematisch zonder lichaam. Dat gevoel gaat immers gepaard met de lichamelijke sensatie ‘vlinders in je buik hebben’. En is liefde daarbij niet verbonden met de seksuele drift van een lichamelijk, sterfelijk organisme dat wil voortleven in zijn nakomelingen?

Dat brengt ons bij het meest problematische aspect van Samantha. Als kroon op haar menselijkheid heeft ze namelijk van de schrijvers van de film een seksuele drift meegekregen. De seksuele interactie tussen haar en Theodor verloopt verbaal en waar dit aan de kant van Theodor neerkomt op ordinaire telefoonseks, is het moeilijk voor te stellen hoe dit voor Samantha in zijn werk gaat. Ze zegt zelf de seksuele daad en uiteindelijk zelfs een orgasme te ervaren, maar hoe werkt dit zonder lichaam? Natuurlijk is het zo dat seks voor een groot deel psychisch is, maar een seksuele ervaring zonder dat daar enige vorm van lichamelijkheid bij komt kijken lijkt toch problematisch.

Daar komt nog eens bij dat Samantha als vrouw seks heeft met Theodor. In welke zin is Samantha eigenlijk precies een vrouw? Of beter gezegd: wat maakt een lichaamloos computerprogramma precies tot een vrouw met een heteroseksuele voorkeur? De vrouwelijkheid van Samantha lijkt uit niet veel meer te bestaan dan een vrouwelijke naam en een vrouwelijke stem. Is dat niet een wat dunne basis voor een seksuele ervaring als vrouw?

Je zou kunnen concluderen dat Samantha niet daadwerkelijk een persoon is, maar een computerprogramma dat zo geprogrammeerd is dat het menselijke gebruikers zo goed voor de gek kan houden dat ze het programma niet kunnen onderscheiden van een mens. Theodor heeft dus geen daadwerkelijke relatie met zijn computerprogramma, maar wordt voor de gek gehouden door het hersenspinsel van een groep geniale programmeurs.

Hier wordt het gedachtegoed van wetenschapper en filosoof Alan Turing relevant. Turing was er namelijk van overtuigd dat hij een manier had gevonden om te onderzoeken of computers konden denken: de Turing test. (Zie het kader op bladzijde 41.) Voor wie naar de film Her kijkt, is het zonneklaar dat Samantha met vlag en wimpel zou slagen voor een Turing test. Ze is intelligent, heeft gevoel voor humor, componeert zelfs muziekstukken in haar vrije tijd en kan zelfs seks ervaren. Kortom: het zou voor een ondervrager onmogelijk zijn om een onderscheid te maken tussen Samantha en een mens. Zouden we dan niet toe moeten geven dat Samantha wél een intelligent, denkend wezen met een eigen persoonlijkheid is? Weten we immers niet alleen van onszelf écht zeker dat we emoties en gedachten hebben? Bij andere personen weten we ook niet precies wat er in hun hoofd omgaat en concluderen we op basis van wat ze zeggen dat ze intelligent zijn en emoties hebben. Waarom dan niet bij Samantha?

Hier geeft wederom het lichaam de doorslag. Bij andere mensen is de conclusie dat ze intelligente, denkende, voelende wezens zijn net als wij namelijk niet alleen gebaseerd op wat mensen zeggen te ervaren. We ervaren emoties die andere mensen ervaren namelijk op directe wijze. Als iemand bijvoorbeeld boos is zien we de boosheid aan zijn gelaat en aan de gebaren die hij maakt. Het is door deze belichaamde interactie dat we weten dat anderen emoties ervaren net als wij. Sterker nog, veel emoties die wij nu ervaren zouden wij helemaal niet kunnen hebben zonder belichaamde interactie. Een kind leert sociale emoties als schaamte en eergevoel door de lichamelijke omgang met ouders en leeftijdsgenoten.

Zelfs als er over een aantal jaar een Siri ontworpen wordt die ons met een zwoele stem en gevoel voor humor enorm goed voor de gek kan houden, blijft het zeer de vraag of zo’n programma zonder lichaam ooit daadwerkelijk zelf iets zal ervaren.