Bij het woord experiment denk je aan erlenmeyers en veiligheidsbrillen en aan proefkonijnen. Maar voor het gedachte-experiment heb je niet meer dan je gezond verstand nodig. Een serie over geruchtmakende hersenbrekers. Deze keer: Anne Ruth Mackor over de Chinese kamer.
Stel je voor, je zit in een gesloten kamer en je krijgt telkens briefjes met Chinese tekens die samen goede Chinese zinnen vormen. Je spreekt en schrijft geen woord Chinees, sterker nog, je ziet waarschijnlijk het verschil tussen Chinese en Japanse tekens niet eens. Echter, met behulp van een uitgebreid instructieboek in het Nederlands, ben je wel in staat op ieder briefje een respons in het Chinees te geven. Zo ontstaat er een zinvol gesprek in het Chinees. Bovendien denkt je gesprekspartner buiten de kamer zelfs dat je een aardig woordje Chinees spreekt.
Het verhaal van de Chinese kamer is bedacht door de Amerikaanse filosoof John Searle. Hij richt zich ermee tegen de aanhangers van de sterke artificiële intelligentie (AI). ‘Sterke AI stelt dat computers niet zomaar een soort formele systemen zijn, maar dat zij ook echt begrijpen wat ze doen’, vertelt Anne Ruth Mackor, docente rechtsfilosofie aan de Rijksuniversiteit Groningen. ‘Of ze nou ingewikkelde berekeningen maken, iets vertalen of een gesprek voeren – volgens de sterke AI begrijpen ze ook echt waar ze mee bezig zijn.’
Rekenmachine
Het lijkt allemaal misschien wat ver gezocht, zo’n computer die een gesprek kan voeren. En met je eigen PC ben je waarschijnlijk inderdaad snel uitgepraat. Toch zijn er wel degelijk computers ontwikkeld die heel aardig kunnen meepraten. Mackor: ‘Searle bespreekt het voorbeeld van een computer die in staat is vragen te beantwoorden over eenvoudige verhaaltjes. En dan hebben we het over het begin van de jaren zeventig. De aanhangers van de sterke AI zeggen daarop: ‘Kijk die computer kan er vragen over beantwoorden, dus hij snapt het verhaal.’
Met zijn gedachte-experiment wil Searle echter laten zien dat computers helemaal niet hoeven te begrijpen wat ze doen. De Chinese kamer moet namelijk worden gezien als een soort computer. De Chinese vraag is de input, het Chinese antwoord is de output en jij en het Nederlandstalige handboek vormen samen het programma dat het antwoord ‘berekent’. ‘Searles gedachte-experiment laat nu juist zien dat je niks van het Chinees begrijpt. Je manipuleert formele symbolen en wat ze in het Chinees betekenen, weet je niet. Je speelt gewoon met tekentjes volgens je Nederlandse instructieset. Dat is alles. Je hebt daar in die Chinese kamer geen echt begrip,’ legt Mackor uit. Hetzelfde geldt volgens Searle voor een computer. Meer dan een apparaat dat supersnel berekeningen kan uitvoeren is het niet. Een computer die uit de formele regels van zijn programma afleidt dat hij de vraag ‘Lekker weertje vandaag, niet?’ moet beantwoorden met ‘Nou, ik houd niet zo van regen’, omdat het op dat moment regent, hoeft verder niets te begrijpen van het weer. Die computer heeft dus ook niet de gemoedstoestand ‘een hekel hebben aan regen’ die de meeste mensen eigen is.
Wat een computer in zulke situaties doet, is volgens Searle slechts het simuleren van ‘intentionaliteit’. Met intentionaliteit worden psychische gemoedstoestanden bedoeld waarbij je gericht bent op iets of iemand anders. Zo ben je nooit gewoon verliefd, maar altijd verliefd op iemand. En er is altijd iets wat je verwacht, hoopt of vreest. Mackor: ‘Searle zegt dan, we simuleren zoveel met een computer. We simuleren bijvoorbeeld ook het ontstaan van stormen en branden en hoe die zich uitbreiden. Maar niemand zal ooit beweren dat zo’n simulatie echt een storm of een brand is. Waarom zouden we dat over de simulatie van intentionaliteit dan wel zeggen?’
‘Searle maakt hier zijn beroemde onderscheid tussen as if intentionaliteit en échte intentionaliteit. Neem bijvoorbeeld een thermostaat. We zeggen wel dat een thermostaat “merkt” dat de kamertemperatuur te laag wordt en dat hij “weet” dat hij daarom de verwarming aan moet doen, maar dat is volgens Searle maar een metafoor. Een thermostaat heeft alleen as if intentionaliteit, die schrijven wij eraan toe. Hetzelfde geldt voor computers. En dat is iets heel anders dan wat wij mensen hebben.’
Daarmee is de vraag wat wij mensen dan wel hebben natuurlijk nog niet beantwoord. Wat onderscheidt nu de quasi-intentionaliteit van de echte? Mackor vervolgt: ‘Intentionaliteit is naar Searles mening een biologisch verschijnsel. Zij vloeit voort uit de biochemische samenstelling van ons brein. Het gaat dus om het materiaal: dat moet typisch menselijk zijn. Hij gebruikt daarom vaak parallellen met andere biologische processen. Zo is fotosynthese juist fotosynthese door de biochemische processen die zich daarbij afspelen. Een computersimulatie van fotosynthese is zelf nog geen fotosynthese. Alleen hersenen en machines die precies dezelfde fysiologische en chemische vermogens hebben, gelden als systemen die echte intentionaliteit kunnen hebben.’ Computers en Chinese kamers voldoen niet aan die eis.
De kracht van het Chinese-kamerexperiment zit volgens Mackor echter vooral in het negatieve element, de kritiek op de opvatting dat computers iets begrijpen. ‘Ik vind dat Searle de goede vraag stelt. Wat maakt een computer nou tot een intentioneel systeem? Ik denk dat hij daarmee de vinger op de zere plek legt, want daarop geven de aanhangers van sterke AI geen overtuigend antwoord. Dus die kritiek is zeker terecht.’ Searles positieve positie vindt Mackor veel minder sterk. ‘Waarom maakt nou plotseling die neurochemische samenstelling dat iets intentioneel wordt? We weten inderdaad dat mensen boos of bang kunnen zijn, maar je verklaart niets door te zeggen dat dat met de biochemische samenstelling in hun hoofd te maken heeft. Searle poneert die grens gewoon. Zijn enige retorische argument is dat alles intentioneel wordt als je dat onderscheid niet maakt. En dat is geen sterk argument.’
Searle wil een principieel onderscheid kunnen maken tussen wezens met en zonder intentionaliteit. Mackor vraagt zich af of dat wel nodig is. ‘Je hebt intentionaliteit in soorten en maten. Ook dieren hebben intentionaliteit, maar die is natuurlijk veel primitiever en minder complex dan die van mensen. Op die manier kun je ook weer onderscheid maken tussen de intentionaliteit van thermostaten en dieren. Volgens mij is het onderscheid dus gradueel.’
