Mens en machine

Een rivier kabbelt rustig langs een oever, is een bron van leven en nodigt schilders uit om haar schoonheid vast te leggen. Maar wie met een technologische blik kijkt, ziet dat allemaal niet. Die ziet bijvoorbeeld alleen een bron van energie, een locatie om een waterkrachtcentrale te installeren.

Martin Heidegger maakte zich druk over de beperkingen van de technische blik. Hij concentreerde zich op de vraag wat ‘zijn’ is en vond dat de technologische kijk ons zicht op die vraag belemmerde. We zijn geneigd technologie te zien als het geheel van instrumenten, van scharen tot waterkrachtcentrales en telefoons. Maar dat is een vergissing, vond Heidegger. Technologie is de dominante kijk op de wereld om ons heen die dingen – rivieren, bijvoorbeeld – transformeert tot instrumenten en tot meetbare, manipuleerbare zaken die vooral een doel moeten dienen. Uiteindelijk leidt het idee dat alles te meten, manipuleren en gebruiken valt tot de ondergang van verbazing en respect, en onverschilligheid jegens het verlies daarvan.

De technologische beschouwing lijkt op het eerste gezicht neutraal, maar is dat niet. Die doet de wereld tekort en beperkt daarmee ook de personen die technologisch denken. In een wereld waarin de technologische blik de overhand heeft, blijft de mens vervreemd achter. 

We maken boodschappenlijstjes voor de supermarkt, zetten een bril op om te lezen en communiceren via smartphones. Die lijstjes, brillen en telefoons vormen volgens de Amerikaanse filosofen Andy Clark en David Chalmers een uitbreiding van onze hersenen. Ons denken vindt volgens Clark en Chalmers niet alleen plaats in onze hersenen, maar ook in voorwerpen die we gebruiken om bijvoorbeeld te onthouden dat we afwasmiddel moeten kopen. Wij en ons briefje vormen samen een ‘gekoppeld systeem’.

Clark en Chalmers leggen hun idee uit aan de hand van een simpel gedachte-experiment over de fictieve Otto en Inga. Beiden willen naar het museum. Inga herinnert zich waar dat is – die kennis zit in haar – en loopt er direct naartoe. Maar Otto heeft alzheimer en hij noteert belangrijke dingen, net als veel andere alzheimerpatiënten. Ook het adres van het museum en de route ernaartoe heeft hij opgeschreven in een notitieblok. Onderweg raadpleegt hij zijn aantekeningen, zoals een ander zijn biologische geheugen zou gebruiken. 

Volgens Clark en Chalmers zijn de werkwijzen van Inga en Otto analoog: Otto’s notitieblok functioneert op eenzelfde manier als Inga’s geheugen. Otto’s geest heeft zich verbreed naar de externe wereld – voorbij de huid en botten die hemzelf afbakenen. 
Niet alleen onze hersenen, maar ook de rest van ons lichaam kunnen we uitbreiden met techniek. Zo kunnen we een blindenstok zien als een nieuw tastorgaan voor een blinde, een gehoor-implantaat als een nieuw oor voor een dove, en we kunnen zelfs een online profielfoto beschouwen als extensie van het gezicht. Technologie verbreedt ons dus op fundamentele wijze, zowel geestelijk als lichamelijk.

Het ene moment vragen we Google om tips voor een prettig restaurant. Dan scrollen we door wat aanbevolen pagina’s op Facebook of luisteren we naar muziek die Spotify ons voorstelt. De software van deze bedrijven heeft grote invloed op wat we lezen, bekijken, luisteren en zelfs eten. 

Het gaat hier over algoritmes: de instructies die maken dat zoekacties resultaten opleveren, dat sociale media ons interessante leestips geven en dat we muziek naar onze smaak krijgen voorgeschoteld. Die algoritmes gebruiken de data die de gebruiker achterlaat en combineren die met data van andere gebruikers om u te adviseren: mensen met een vergelijkbare smaak waardeerden dit restaurant, deze band en dit artikel.

Zo krijgt de gebruiker steeds meer van hetzelfde geadviseerd, vrijwel zonder verrassingen. Luister op Spotify naar het genre klassiek en krijg daarna de ene symfonie na de andere te horen. Of ‘like’ linksgeoriënteerde politieke pagina’s op Facebook en krijg louter gelijkgezinde auteurs te lezen. Zo belandt u in een homogene bubbel, dankzij algoritmes. 

Eind achttiende eeuw zag filosoof Jeremy Bentham al mogelijkheden om de mens te disciplineren met hulp van techniek. Hij bedacht een ‘panopticum’, een rond gebouw waarin een enkeling een grote groep kon bespieden en die zo onder controle kon houden. Een voorbeeld van een panopticum is de koepelgevangenis, die zo is gebouwd dat een paar cipiers een veelvoud aan gevangenen in de gaten kunnen houden.

In China is de afgelopen jaren hard gewerkt aan het panopticum van de eenentwintigste eeuw, dat niet alleen gevangenen monitort, maar ook gewone burgers in het gelid houdt. Met behulp van gezichtsherkenningssoftware kijkt de overheid wie er ‘onaangepast’ gedrag vertoont: wie naast het zebrapad oversteekt, een hond uitlaat zonder riem enzovoort. Verkeerd gedrag betekent verlies van punten in een kredietsysteem dat bepaalt hoeveel vrijheden en rechten Chinese burgers hebben. 

Technologie wordt gestaag een steeds nauwkeuriger gereedschap om de mens te bespelen. En daarvoor hoeven diensten niet eens iedereen te volgen: alleen het idee dat we bekeken worden kan al intimideren. Bang voor ‘Big Brother’ aarzelen we over wat we delen op sociale media, plakken we laptopcamera’s af en maken gebruik van anonimiserende VPN-diensten. 

Iedereen met toegang tot internet is verbonden met een grenzeloze virtuele wereld vol kennis. Informatiestromen bereiken bijna alle hoeken van de wereld en brengen zo de mogelijkheid met zich mee om het volk – de online burgers – te verlichten. Bovendien biedt internet diezelfde burgers de kans om hun mening vrij te uiten en te debatteren. Ook de ‘gewone’ man kan zich zo makkelijk hoorbaar maken. 

Dat gaat nogal eens mis. Tussen het enorme aanbod aan online ‘kennis’ zit veel onzin, en feiten en meningen lopen nogal eens in elkaar over. Ook blijkt internet een prima plek om haat te verspreiden, onder het motto ‘vrijheid van meningsuiting’. En dan zijn er nog de totalitaire regimes die al die vrijheid maar bedreigend vinden en de toegang tot informatie en meningen voor hun burgers zwaar beperken.

En toch. De moeite die totalitaire regimes zich getroosten om internet te censureren, illustreert hoeveel online informatie en debat kunnen bijdragen aan vrije, democratische samenlevingen.

Meer lezen over technologie? Bestel nu de speciale uitgave Technologie. De kunstmatige natuur van de mens.