Wetenschap toetst met experimenten de feiten, filosofie toetst met experimenten het denken.
Stel je voor!
Hebben computers een bewustzijn? Stel, je zit opgesloten in een kamer vol met boeken met Chinese tekens. Je weet zelf niets van Chinees, maar je hebt een instructieboekje gekregen waarin staat hoe je de tekens moet gebruiken. Op een gegeven moment komt er via een gleuf een papier binnen met daarop een reeks Chinese tekens. Met behulp van het instructieboekje en de boeken met Chinese tekens zoek je uit hoe je moet reageren. Je schrijft de juiste tekens op een papier en duwt dat terug door de gleuf.
Wat je niet weet, is dat er mensen buiten de kamer zijn die wel Chinees spreken. Ze hebben het papier naar binnen gestuurd met een vraag in Chinese tekens en krijgen vervolgens het juiste antwoord op die vraag terug. Daarop concluderen ze dat er iemand in de kamer zit die Chinees begrijpt. Maar is er wel echt sprake van begrip?
Nee, dacht John Searle (1932), de bedenker van dit gedachte-experiment. Er is namelijk niets of niemand in de kamer die weet waar hij het over heeft: de boeken met Chinese tekens bevatten wel informatie maar ‘weten’ dat niet, terwijl de persoon in de kamer geen woord Chinees kent en blindelings instructies volgt. De kamer vormt een machine die informatie verwerkt, zonder zich bewust te zijn van de inhoud van die informatie. De Chinese Kamer kan wel Chinees, maar begrijpt het niet.
Niet toevallig lijkt de situatie in de kamer op een computer; het instructieboekje is het programma, de persoon is de processor en de boeken zijn de data. Searles doel met dit gedachte-experiment was om te laten zien dat computers geen bewustzijn hebben. Net als de Chinese Kamer kunnen computers regels volgen, data gebruiken en de juiste output leveren, maar ze zijn zich niet bewust van wat ze doen.
Echt?!
Searle publiceerde zijn artikel over de Chinese Kamer in 1980. Inmiddels zijn computers en andere vormen van kunstmatige intelligentie vele malen beter geworden. Ze kunnen de wereldkampioen schaken verslaan, auto’s besturen en artikelen schrijven. In gesprek met Siri of ChatGPT is het steeds moeilijker om te geloven dat kunstmatige intelligentie geen bewustzijn heeft. Volgens critici, zoals de Amerikaanse filosoof Daniel Dennett, klopt Searles argument dan ook niet. Zij vinden Searles idee van bewustzijn te beperkt. Misschien zit er niemand Ãn de Chinese Kamer die Chinees begrijpt, maar kan de kamer als geheel, als systeem, dat wel. Moeten we ruimer gaan denken over het bewustzijn?
