Interview Peter-Paul Verbeek: ‘Technologie is ons noodlot’

Die situatie is al zo oud als de mens zelf. En de komst van nieuwe ‘disruptieve’ technologieën met de potentie om grote veranderingen teweeg te brengen in het dagelijks leven, zoals gene editing, kunstmatige intelligentie, robots, algoritmes en geo-engineering veranderen volgens Verbeek niets aan die beginpositie. ‘De grote golven technologie die nu over de maatschappij heen spoelen kunnen prima begrepen worden als een mediator. Maar de manieren waarop ze mediëren – hoe ze aangrijpen op de mens en de wereld voor ons begrijpelijk of hanteerbaar maken –, die zijn wél echt nieuw.’

De aard van de mediatie verandert bij deze technologieën volgens Verbeek radicaal, omdat technologie bijvoorbeeld actorschap krijgt (zoals in algoritmes), omdat mens en technologie in elkaar overvloeien (zoals in organoids: op basis van stamcellen gecreëerd menselijk orgaanweefsel), of omdat technologie menselijke trekken vertoont (zoals de robot Sophia, die in 2017 zelfs burgerrechten kreeg in Saoedi-Arabië). Nieuwe technologieën zetten ons begrip van de relatie tussen mens, maatschappij en natuur op losse schroeven. Zozeer zelfs dat uit de Verlichting stammende filosofische concepten als autonomie, verantwoordelijkheid en democratie opnieuw doordacht moeten worden. ‘De oude kaders passen niet meer. Hoe kunnen we nou filosofisch gezien in het reine komen met de impact van technologie?’

Die vraag kan Verbeek met vijf collega’s dankzij een subsidie van bijna 18 miljoen euro van NWO de komende tien jaar gaan onderzoeken, om gaandeweg te komen tot bruikbare nieuwe filosofische concepten.

Wat ziet u als de belangrijkste taak van de techniekfilosofie?
‘Allereerst: verhelderen. Techniekfilosofie moet de voorwaarden creëren voor een goed debat door mensen te helpen duiden welke rol technologie speelt. En daar gaat het wat mij betreft ook heel vaak mis: omdat de mens vaak tegenover de techniek wordt geplaatst, hebben we dat goede debat volgens mij onvoldoende. De taak van de academische ethiek is vooral voorwaarden scheppen voor een goede ethische discussie.’

Dat de mens te vaak tegenover de techniek geplaatst wordt, koppelt u net als Bruno Latour aan een te rigide vasthouden aan de subject-objectrelatie: ‘de mens’ versus ‘de dingen’. Wat is het probleem daarmee?
‘We kunnen de wereld niet meer zo simpelweg opdelen in die oude metafysische tweedeling: óf subjecten, óf objecten. Latour zegt: als je dat doet, dan mis je 90 procent van de entiteiten in onze wereld die hybride zijn: half object en half subject. Ik vind dat een heel wijze uitspraak. Pas als we zien dat wat wij als subjecten zijn voor een deel ook het gevolg is van de rol die technologische objecten spelen in onze relatie met onze omgeving, snappen we wat het betekent om mens te zijn. En andersom snap je die technologieën pas echt als je snapt wat ze betekenen in relatie tot mensen.’

In uw werk keert u zich tegen Habermas. Hij wil technologieën als gene editing verbieden, omdat we wanneer we onze natuur veranderen de basis onder onszelf als morele wezens zouden weghalen. 
‘Habermas accepteert niet dat nieuwe technologieën zoals gentechnologie ook de menselijke conditie veranderen. En binnen die conditie moeten we op andere manieren leren verantwoordelijkheid te nemen voor onszelf. Die openheid voor waardeverandering, die mis ik bij Habermas erg.

Over vijftig jaar hebben we misschien manieren gevonden om bepaalde ziektes genetisch weg te werken. Als Habermas dan geboren zou worden, denk ik dat ook hij zou zeggen: ja natuurlijk, wie kan daartegen zijn?’

Peter Sloterdijk stelde al in 1999 dat we moeten nadenken over ‘het telen van de mens’. Destijds ontstond daar veel ophef over, maar nu lijkt hij een vooruitziende blik gehad te hebben wat betreft de invloed van biotechnologie.
‘Die ophef ontstond voor een deel doordat Sloterdijk – wellicht als provocatie – een paar verwijzingen naar de nazitijd maakte in zijn tekst. Maar eigenlijk had hij het over een overschatting van onze autonomie en hoe we de mens met technologie aan het veranderen zijn. Dat idee is tegenwoordig al veel minder omstreden. We zijn onze cognitie nu aan het veranderen met hersenimplantaten, en er wordt gewerkt aan een lab-on-a-chip om het geslacht van onze kinderen te kiezen. We zijn dus al de mens biologisch aan het veranderen. Dat leek ooit een absolute grens, maar je ziet hier nu al waardeverschuiving. En misschien moet Sloterdijk er met terugwerkende kracht voor geprezen worden dat hij het lef had om toen al te pleiten voor een goede ethische discussie.’

U verwijst ook naar de parabel in Nietzsches Zarathoestra waarin de geest eerst een kameel is, vervolgens een leeuw en ten slotte een kind. Het kind zegt ja tegen het leven. Volgens u moeten we op eenzelfde manier ja zeggen tegen technologie. Hoe doen we dat?
‘Nietzsche heeft het erover dat je niet voor je noodlot moet weglopen, maar het recht in de ogen moet kijken – amor fati. Ja zeggen betekent niet dat elke technologie goed is, maar wel dat we de technologische conditie van ons bestaan aanvaarden. Wij zijn altijd al technologische wezens geweest, daar zijn ook heel mooie evolutionaire verklaringen voor. Door onze handen, en doordat we op twee benen zijn gaan lopen, konden we technologie ontwikkelen, en onze hele niche in de natuur is ontstaan vanuit technologie. Als dat zo is – en ik geloof dat -, dan is technologie ons noodlot. En dan is het eigenlijk kinderachtig om je te verzetten tegen technologie; het enige wat je kunt doen is proberen er verantwoordelijkheid voor te nemen. Wat ons tot mens maakt is juist het feit dat we onszelf kunnen herontwerpen.’

Een filosoof die u daarbij inspireert is Foucault. Wat spreekt u zo aan in zijn werk?
‘Foucault dacht na vanuit concrete maatschappelijke vragen, en liet de bestaande kaders uitdagen door de werkelijkheid zelf. Techniekfilosofie wil zich ook engageren met concrete sociale en maatschappelijke vragen en technologische ontwikkelingen, om zich vervolgens af te vragen wat dat betekent voor de filosofie. Foucault vroeg zich af: wat is er allemaal nodig voor onze autonomie en democratie? Wat Foucault op grote schaal deed – laten ziet dat allerlei machtsstructuren onze vrijheid enorm beperken – kun je in techniekfilosofie op lokale schaal doen, door concrete technologieën of technologiedomeinen te bekijken. Zoals nu bijvoorbeeld kunstmatige intelligentie – wat doet die met besluitvorming, met verantwoordelijkheid, met democratie. De waarden waarmee we ethiek bedrijven zijn niet onafhankelijk van de techniek die we ermee beoordelen.’

U verwijst ook nadrukkelijk naar Foucaults teksten over levenskunst. Wat hebben die met techniek te maken?
‘Waar het Foucault om gaat is dat onze menselijkheid schuilt in het vermogen om een kritische productieve relatie aan te gaan met datgene wat ons beïnvloedt. Een van zijn meest inspirerende teksten voor mij is “Wat is verlichting?”. Foucault laat daarin heel mooi zien dat er geen plek buiten de werkelijkheid bestaat, buiten al die machtsstructuren – of in mijn geval buiten al die mediaties van technologie –, maar dat het gaat om het ontwikkelen van een grenshouding. Je kunt zelf de grens opzoeken door je af te vragen: met wat voor begrippen denk ik, en zijn die ook niet het product van de structuren, de maatschappij, de technologie waarbinnen ik leef? Dat is een emancipatoire ambitie. En dat is exact wat ik als techniekfilosoof beoog: mensen in staat stellen om te snappen waar ze in beland zijn, en zelf kritisch na te denken.’

Met technologie zijn enorme belangen gemoeid, van techbedrijven en ook van staten. Hoe belangrijk is het om als techniekfilosoof onafhankelijk te zijn?
‘Onafhankelijkheid is zeker essentieel als het erom gaat tot concrete aanbevelingen te komen. Het zou verwerpelijk zijn als bedrijven of overheden invloed zouden uitoefenen op de inhoud van je werk. Tegelijkertijd zit ik ook in diverse samenwerkingsverbanden van wetenschap en bedrijfsleven, waar het juist een kracht is dat bedrijven meedoen. Ik heb bijvoorbeeld een project gedaan over drones, met twee dronebedrijven uit Twente, waarbij we een tool hebben ontwikkeld om de ethische aspecten van drones te identificeren tijdens het ontwerpen. Door de maatschappelijke vragen rond dronetechnologie – mensen zijn bang voor drones, ze geven overlast, bedreigen de privacy, mensen associëren ze met militaire technologie – mee te nemen tijdens de ontwikkeling, ontstaat er uiteindelijk een geloofwaardige ontwerppraktijk, waar mensen vertrouwen aan kunnen ontlenen. En die bedrijven bieden die tool nu aan, dus zij verdienen er geld mee. Het is een mooi voorbeeld van hoe ethiek en commerciële belangen samen kunnen gaan.

We zijn ook bezig om tot een “begeleidingsethiek” te komen. Ik zit bijvoorbeeld in een werkgroep voor van ECP, een landelijk platform voor informatietechnologie, waaraan bedrijven als IBM, Microsoft en Facebook deelnemen, maar ook overheidsorganisaties. Samen hebben we een aantal casussen uitgewerkt waarin we de implementatie van technologie kritisch en ethisch volgen. Bijvoorbeeld een eetrobot, die mensen eten geeft in een zorginstelling. Ik vind zo’n samenwerking veelbelovend, omdat die eraan bijdraagt dat er tools komen waarmee organisaties aan de slag kunnen. Tien, vijftien jaar geleden zeiden veel bedrijven nog: ethiek is niet onze afdeling, wij maken gewoon techniek. Dat kun je nu niet meer met goed fatsoen zeggen.’

In een artikel over het Chinese sociale-kredietsysteem, waarmee burgers in de gaten gehouden worden met stem- en gezichtsherkenning, beweerde een ambtenaar: ‘Uit de data blijkt gewoon wat iemand goed of verkeerd heeft gedaan, punt uit.’ Wat kunt u inbrengen tegen zo’n argument? En is dat de taak van de techniekfilosofie?
‘Dat is absolúút de taak van de techniekfilosofie. Ik las laatst een krantenartikel waarin een mevrouw stelde dat we eigenlijk algoritmes moesten laten beoordelen of een wetenschapper in aanmerking komt voor subsidie, want die kunnen het tenminste neutraal en objectief. Dan draait mijn maag echt om. De fantasie dat een algoritme neutraler en objectiever zou zijn dan de mens vind ik echt gevaarlijk, want dan schakel je je eigen kritische denkvermogen uit. Algoritmes zijn geen neutrale technologie – geen enkele technologie is neutraal. Die dingen hebben vaak een bias naar geslacht, huidskleur en leeftijd. Dat is onvermijdelijk, dus daar moeten we juist mee leren omgaan. De techniekfilosofie moet laten zien dat die algoritmes iets doen met ons begrip van de wereld, in plaats van neutraal inzicht geven, én we moeten benadrukken dat die algoritmes niet een alternatief zijn voor de mens. Het is niet het algoritme versus de mens – gaat nu de robot rechtspreken of de mens? Nee, wij moeten uitvinden wat verantwoord rechtspreken is of verantwoord beleid maken in interactie met die algoritmes. We moeten ons de technologie leren toe-eigenen, het karakter van technologie leren kennen. Dat is een heel ander verhaal dan technologie als een soort objectieve vervanger van de mens die het eigenlijk beter kan dan wij.’