Mensen zijn dol op bedreigingen. Ebola, vogelgriep, aids (maar die is weer weg), de Russen (weer terug), en dan nu robots. De vrees is dat deze ijskonijnen ons de planeet af gaan werken. ‘Mensen die beperkt worden door de langzame biologische evolutie zullen er niet tegen opgewassen zijn en overvleugeld worden’, zei Stephen Hawking tegen de BBC. Ik heb eens geprobeerd zijn Brief History of Time te lezen, maar ik begreep er weinig van. Hawking is een van de grootste natuurkundigen aller tijden, ik wil de kranten wel napraten, maar dat wil niet zeggen dat hij verstand heeft van het al dan niet geestelijke leven van robots.
Dit artikel is exclusief voor abonnees
Gaan die ons overvleugelen? Laten we zo laag mogelijk inzetten. Je kunt een robot zo programmeren dat hij bij een kietelend bedoelde aanraking op die plek gaat krabben. Net als een mens. Net als een mens? Je zult dan ook moeten programmeren wanneer hij moet ophouden met krabben. Een mens houdt op als de jeuk weg is. Maar wanneer laat je een robot ophouden met krabben, of ‘krabben’? Want hij heeft helemaal geen jeuk. In The New York Review of Books schrijft John Searle dat de schaakcomputer Deep Blue Garry Kasparov nooit versloeg, maar dat Kasparov wel van de computer verloor. Deep Blue schaakt niet, in de zin waarin een robot niet krabt. Dat zag je ook na afloop van de match: ‘Kasparov in despair immediately seized a bottle of vodka, while Deep Blue, as programmed, started adding to the known number of decimals in Pi.’ Ik citeer uit een verzonnen verslag. Wat kan een computer nou beleven aan een schaakmatch of extra decimalen van pi? Wat kan een computer beleven? Niks.
Het is niet onmogelijk dat robots ons terzijde zouden schuiven, maar niet omdat ze de boel willen overnemen. Ze kennen die aandrang niet. Misschien zou je enkele miljoenen robots zodanig kunnen programmeren dat ze op zoek gaan naar een virus dat alle mensen doodt. Maar dan nog zijn ze niet bezig om ons te overvleugelen, maar wordt het plan uitgevoerd dat de mensen die hen programmeerden erin hebben gelegd. Nou kan een groep dolgedraaide idealisten best op het idee komen om alle mensen te laten verdwijnen, omdat mensen vaker lijden dan dat ze het naar hun zin hebben. Utilitarisme ten top. Maar dan nog zouden de overblijvende robots niet het gevoel hebben dat ze overwinnaars zijn, zelfs niet als de inmiddels ‘overvleugelde’ programmeurs hen zodanig hadden voorgeprogrammeerd dat ze in voortdurende afwezigheid van menselijk leven aanhoudend de klank ‘hoera’ zouden voortbrengen.
