Log in




Wachtwoord vergeten
Log in | Word lid | Service | Ledenpagina

Filosofie.nl

Filosofie Abonnement
FM nr. 9/2011

'Computers zullen ons nooit uitroeien'

Met deze knop kunt u, als u lid bent, artikelen toevoegen aan een leeslijst op uw persoonlijke pagina. Klik hier voor uw abonnement op maat.

Sebastien Valkenberg

Eerst vroegen we waarin de mens verschilt van het dier. Nu waarin wij verschillen van computers, stelt filosoof en computerdeskundige Brian Christian.

In therapie bij een computer? Het lijkt een scène uit een sciencefictionverhaal of een uitgangspunt voor een gedachte-experiment, en tot voor kort was het dat ook. Maar inmiddels zijn computers in staat om hele conversaties te voeren en is de medische wereld meer dan geïnteresseerd in deze mogelijkheid. Maar welke patiënten zouden hun psychiater van vlees en bloed inruilen voor een gecomputeriseerd exemplaar?
 

Turingtest
De Amerikaanse filosoof en computerdeskundige Brian Christian haalt dit voorbeeld aan in zijn boek Een wedstrijd in menselijkheid. Het illustreert een lange ontwikkeling waarin machines steeds vernuftiger zijn geworden. Het thema is al vele malen eerder onderzocht, maar het originele aan het boek van Christian is zijn invalshoek. In 2009 deed hij mee aan de naar de wiskundige Alan Turing vernoemde test. Daarbij moet een jury, zonder te weten wie of wat hij voor zich heeft, zowel met een computer als met een mens communiceren. Vervolgens moet de jury uitmaken wie de mens is.

‘Ik jaagde tegelijk twee doelen na’, zegt Christian. ‘Eén daarvan was om de Turingtest te winnen – simpelweg voorkomen dat de machine de jury ervan zou overtuigen dat die menselijk was. Maar gaandeweg wilde ik de diepliggendere vraag beantwoorden wat de eeuwenoude relatie tussen mens en machine ons aan levensadvies kan bieden. Kunnen we iets leren van de manier waarop machines in elkaar zitten?’

Ziehier de inzet van de wedstrijd, die veel meer behelst dan aardig intellectueel tijdverdrijf. ‘De Turingtest omvat een vraag die teruggaat naar het begin van de westerse filosofie’, aldus Christian. ‘Wat maakt menselijke wezens uniek? Deze vraag hield Plato al bezig, maar ook Aristoteles en Descartes. Wat ik zo interessant vond, was om de manier waarop zij schreven over de menselijke conditie te vergelijken met hoe wij daar nu tegenaan kijken. Zij beantwoordden die vraag door mensen te contrasteren met dieren: wat zijn onze onderscheidende vaardigheden?’

Denkend dier

Eeuwenlang gold redelijkheid als de doorslaggevende eigenschap. De mens, aldus de beroemde definitie van Aristoteles, is het denkende dier. Nu is deze status niet meer zo onbetwist, aldus Christian. ‘Mij schijnt het toe dat die vraag in de twintigste en zeker in de eenentwintigste eeuw ingrijpend is veranderd. Nu vragen we naar datgene waardoor wij verschillen van computers. Een fascinerende plotwending in deze tweeduizend jaar oude vraag.’

Het is een feit dat computers steeds slimmer zijn geworden, of tenminste iets wat daar sterk op lijkt, maar met die typering doe je de immense verschuiving tekort die heeft plaatsgevonden. Christian: ‘Oorspronkelijk schiepen we computers naar ons eigen beeld. Het woord “computer” was aanvankelijk een bepaalde taakomschrijving en verwees tot ongeveer 1950 naar een persoon, een wiskundige. Dus oorspronkelijk hebben we het apparaat ontworpen om ons gedrag na te doen. Maar nu bereiken we het punt waarop we onszelf in computertermen omschrijven in plaats van andersom. Tegenwoordig zeggen we van iemand die goed is in wiskunde dat hij rekent als een computer.’

Bestaande categorieën raken dus aan het schuiven. Doorgaans volgen we technische ontwikkelingen dan ook met een flinke dosis argwaan. Zo ook in het voorbeeld van therapie per computer. ‘Een van de meest beroemde critici was de MIT-hoogleraar Joseph Weizenbaum’, licht Christian toe. ‘Ironisch genoeg schreef juist hij het programma ELIZA, dat de eerste zogenoemde chatbot [geautomatiseerde gesprekspartner] werd en een gecomputeriseerde versie van een therapeut. Toen Weizenbaum zag dat zijn secretaresse en mensen in zijn laboratorium hun hart uitstortten bij het computerprogramma, was hij met afschuw vervuld.’

Christian betwijfelt of een computer in staat is een persoonlijke band met een patiënt op te bouwen en oog kan hebben voor alle finesses van een gesprek. ‘De ironie is dat we aan computers juist deze ongevoeligheid waarderen. We willen dat een bepaalde berekening elke keer hetzelfde resultaat oplevert.’ Maar ondertussen worden ze steeds gevoeliger. Mocht het ooit zover komen dat computers kunnen worden ingezet voor therapeutische doeleinden, dan is Christian in elk geval niet a priori tegen. ‘Ik geloof niet in verhalen zoals The Matrix en The Terminator, waarin we een punt bereiken waarop computers besluiten om ons uit te roeien. Een van de doorslaggevende kenmerken van computertechnologie is dat die geen innerlijke drijfveren heeft. Computers volgen instructies op. Dat maakt het moeilijk te accepteren dat ze uit zichzelf zouden beslissen ons te vernietigen.’
 

Voorzichtige optimist

Christian noemt zichzelf een ‘voorzichtige optimist’. Zijn boek is ook niet waarschuwend van toon, maar eerder nieuwsgierig. Hoe leiden computers tot een groter zelfinzicht? ‘Kijken naar theoretische conversatiemodellen veranderde de manier waarop ik keek naar echte conversaties fundamenteel.’ Zo kwam hij erachter hoe de gemiddelde ruzie in elkaar steekt. Die vertoont doorgaans het karakter van een potje pingpong met verwijten. De een zegt: ‘Wat ben jij een zak, zeg’; de ander reageert met: ‘Ik praat niet meer met je.’ Een contextloos gesprek, noemt Christian dit. En wat blijkt? Computers zijn hier ook goed in. Schelden is dus geen goede strategie om de Turingtest te doorstaan. Sindsdien probeert Christian juist oog te hebben voor de context als de discussie verhit raakt. Dus niet zomaar de opponent van repliek dienen, maar een vraag stellen als: ‘Hoe bedoel je dat?’ Zo versla je niet alleen de computer, aldus Christian, maar word je ook een menselijker mens. Uiteindelijk won hij dan ook de Turingtest.

Een wedstrijd in menselijkheid. Wat het betekent om nu te leven
Brian Christian,
Contact
336 blz. / € 29,95

Welkom op filosofie.nl!

Speciaal voor nieuwe bezoekers selecteerden wij negen inspirerende artikelen. Lees waarom onderzoek naar geluk niet deugt, zes soorten vervreemding op de werkvloer, hoe Socrates de opkomst van Trump al voorspelde, en meer...

Lees meer
Ik lees graag later

Als u hier uw e-mailadres achterlaat, dan sturen wij het kennismakingsdossier naar u toe. U kunt het dan op ieder gewenst moment lezen.