Bedrijven en overheden verzamelen via onze smartphones en andere slimme apparaten data over alle aspecten van ons leven. Het levert vreemde en ondoorzichtige profielen op, die gemakkelijk een eigen leven kunnen gaan leiden nu het ‘dataïsme’ is uitgegroeid tot een nieuw geloof.
Stilzitten lijkt het enige wat rest. Zodra ik beweeg, beginnen apparaten, apps en algoritmes zachtjes te snorren. Ik blijk iets te produceren: data. De productie van data vergt beweging – veel beweging. Ik heb er geen zin meer in, wil niet meer meedoen. Dus zit ik op de bank voor het raam naar buiten te kijken, ruim zestig kilo bewegingloze opt-out.
Verderop in de straat hangt een camera. Of die van de gemeente is, van een bewoner of van de woningbouwvereniging weet ik niet. Hij kijkt naar iemands voordeur. Aan de school aan de andere kant van het plein hangt pontificaal een grotere, witte camera, duidelijk bedoeld om op te vallen. Het straatje waarin ik woon is rustig; toch rijdt er minstens één keer per dag een politiebus doorheen. Zijn we ergens aangemerkt als risicovol, licht onze postcode rood op in de systemen? De stad weet tegenwoordig zelf wat goed voor haar is.
Data gedijen bij actie. Ze klonteren samen rond centra van drukte, rond wegen, stations, het vliegveld. Gezichten gescand, gebaren geclassificeerd – nerveus, agressief, neutraal – telefoonsignalen getrackt en doorgelicht. Ga ik naar buiten, dan ontkom ik er niet aan vertaald te worden in data, met lijf en leden mee te werken aan de machinerie van dataficatie. Wil ik dat niet, dan zal ik terug naar binnen moeten gaan.
Door mijn huis kan ik me nog ongemerkt bewegen. Het is niet uitgerust met sensoren en slimme toepassingen, noch in de thermostaat, noch in het lichtplan of waar dan ook. Als ik naar de wc ga, horen alleen de buren dat ik doortrek. Al kan ik het niet laten mijn telefoon mee te nemen. Ik hou van het elektrisch dier, hoewel ik weet dat het niet te vertrouwen is. Hoe stil ik ook zit, mijn telefoon verraadt me wel. Ook als ik hem niet gebruik, als mijn duim niet de automatische glijbeweging maakt over het scherm, weet hij waar ik ben en met wie.
De apparaten praten met elkaar zelfs als wij onze mond houden, en rapporteren over ons aan onbekenden. Zodra ik een app aanklik, vouwt zich aan de achterkant een boeket aan trackers open. Als kleine stofzuigers vreten ze alle data op die ze tegenkomen. Een online applicatie genaamd ‘ICSI Haystack Panopticon’ toont alle trackers die in de meest gebruikte Android-apps in de Google Play Store zitten.
Hoe stil ik ook zit, mijn telefoon verraadt me wel
Rondom de app Tinder, bijvoorbeeld, opent zich een kruis van vier trackers die bijhouden hoe vaak je hem gebruikt en hoelang, welke andere apps je op je telefoon hebt, wie je contacten zijn enzovoort. Vier lijkt niet veel, maar een van de trackers, Crashlytics, is onderdeel van 25 procent van alle apps. Wat betekent dat het bedrijf achter Crashlytics, dat op zijn beurt weer in bezit is van Google, al die informatie van al die apps en hun gebruikers makkelijk aan elkaar kan koppelen. Een andere tracker in de Tinder-app is die van Facebook. De hoeveelheid bloemen die aan de Facebook-stengel groeien is zo groot dat de losse exemplaren ervan niet te onderscheiden, laat staan te lezen zijn.
De schaal van dataverzameling en -analyse leidt wel vaker tot dit soort visualisaties, die te groot en veelvoudig zijn om de individuele onderdelen ervan te kunnen onderscheiden.
Surrealistisch portret
Ik probeer een dataselfie te maken. Een zelfportret opgebouwd uit de sporen die ik online van mezelf kan terugvinden. Maar als ik inzoom op mezelf, verzand ik in nietszeggende details. In plaats van herkenning – yep, dat ben ik – of inzicht – shit, dat ben ik – roept mijn dataselfie vooral vervreemding op.
Op Facebook (waar ik inmiddels weg ben) vond ik in de krochten van mijn instellingen een mozaïek van plaatjes, dat fungeert als de vertaling van de 24 belangrijkste categorieën waarmee het bedrijf mij aan adverteerders verkoopt. Het allereerste tegeltje dat mijn profiel kenmerkte was het Lowlandsfestival. Daarnaast stonden tegeltjes met de etiketten ‘filosoof’, ‘boekhandel’ en iets met dieren. Vervolgens: ‘kermis’, ‘knoop’, ‘fotorolletje’. Kermis, knoop, fotorolletje? Die drie categorieën, samen een achtste deel van wie ik zou zijn, toverden me een surrealistisch portret voor ogen, met mijn haren als een achtbaan rond mijn hoofd slingerend, mijn oog een knoop en mijn lippen een overbelichte film. Ik voelde me enigszins voor de gek gehouden, of in elk geval niet serieus genomen.
Het portret leek me hooguit koddig, maar vooral ongeïnspireerd. Waarschijnlijk heeft het ook weinig van doen met het profiel dat Facebook elders van mij opgeslagen heeft. Het is bekend dat dataprofielen voor adverteerders op zoek naar potentiële klanten of stemgerechtigden op talloze categorieën uit te selecteren zijn. En dat mijn profiel bewaard blijft en aangevuld wordt, ook nadat ik mijn Facebook-account heb opgezegd. De verfijning ervan gaat gewoon door – niet in de laatste plaats via anderen die hun account niet hebben gedeletet en hun apps niet verwijderd.
Er is een hardnekkige urban legend die speculeert over de vraag of je smartphone je afluistert. Of beter gezegd: of bedrijven zoals Facebook en Google via de microfoon van je telefoon of tablet meeluisteren naar wat er in je omgeving gezegd wordt, zodat ze advertenties nog gerichter en nog persoonlijker kunnen afstemmen. Opeens duiken er in je timelines reclames op voor spullen of merken waarvan je nooit eerder had gehoord of aan had gedacht, maar waar je het toevallig net met iemand over hebt gehad.
Ik twijfel er niet aan dat het kan – zodra je een app als Facebook of Instagram toegang hebt gegeven tot je microfoon, kan hij immers geluid registreren, en erg veel moeite zal het niet kosten om dat wat te horen is te tracken en te filteren op voor adverteerders interessante termen: merknamen, producten of woorden als ‘zwanger’ en ‘huisdier’.
Je kunt zelf nog zo je best doen – uit de buurt blijven van telefoons en apparaten die je binnen het bereik brengen van de stofzuigertjes, ook als je daar niet om hebt gevraagd – uiteindelijk verraden de apps van anderen je wel. Stilzitten dus, en je bek houden.
Ik ben niet de enige die zich ingekapseld voelt. De roep om regulering van de techsector klinkt steeds luider. Digitalisering en dataficatie worden inmiddels gezien als morele vraagstukken, waarvoor ethische commissies moeten komen, accountability en persoonlijk verantwoordelijkheidsgevoel, transparantie en mediawijsheid. De sector pleit nota bene zélf voor regulering. Maar vooralsnog schept de vraag naar ethiek meer chaos. Myriaden belangen, perspectieven, vergezichten en spelers die raken aan individu, buurt, stad, staat, lokale en globale politiek, aan leefomgeving, milieu en identiteit – die hele onoverzichtelijkheid van het hyperobject – hullen de onderliggende vragen in een dikke mist. Welke waarden staan voorop in een goede omgang met technologie? Waarop worden regels gebaseerd en wie bepaalt dat? Wat moet er eigenlijk opgelost worden? Dat soort fundamentele vragen raakt steeds weer ondergesneeuwd door (terechte) ophef en schandalen, over de datahandel van consumentenbanken, over het zoveelste datalek bij de overheid, over geautomatiseerde besluiten die levens verwoesten.
Beeld: Shutterstock
Googles ethiek
Ethiek wordt intussen vooral lippendienst bewezen. Als Facebook-baas Mark Zuckerberg stelt dat globale regulering nodig is als het gaat om de grenzen van de vrijheid van meningsuiting of om privacy en dataopslag, dan hoor ik daarin vooral ook het verlangen om niet steeds de boeman te hoeven zijn. Van oprechte zorg, verantwoordelijkheid of aanpassingen met enig gewicht lijkt geen sprake.
Of neem de ethische commissies die in allerijl worden opgericht. De ethische board die Google aankondigde te zullen instellen om toezicht te houden op zijn artificial intelligence-programma werd na een week alweer opgeheven vanwege interne conflicten en controverses rondom enkele beoogde leden. Het zou grappig zijn als het niet zo treurig was. Bovendien was al voor de vroegtijdige ontmanteling duidelijk dat de commissie weinig slagkracht zou hebben. Hoe zou een handvol mensen door enkele vergaderingen en rapporten per jaar de gigantische ontwikkelingen waar duizenden aan werken moeten bijsturen?
Rotsvast geloof in kennis
Een belangrijke reden waarom een inhoudelijke discussie niet van de grond komt, is dat er al een stelsel van waarden en normen bestaat. Het is dat van het dataïsme: het geloof dat alles wat bestaat te vertalen is in digitale data en dat daarmee de wereld de goede kant op te duwen is. Deze leer brengt zijn eigen geloofsartikelen met zich mee: dat meer data altijd beter is, dat data neutrale elementen zijn, dat er nog zoveel meer te dataficeren valt. Dat de toekomst niet te stoppen is en algehele dataficatie dus onontkoombaar zal zijn. En al maken we ons zorgen over privacy of beïnvloeding, we lijken er niets aan te kunnen doen dat we hierin meegaan; gewillig voeren we onze bewegingen en onze dataproductie op, net zoals er ondanks zorgen om het milieu toch elk jaar meer gevlogen wordt.
Mijn datadubbelganger is een homo economicus: flets, saai en flinterdun
De vanzelfsprekend geachte overtuigingen van het dataïsme zetten een rem op echte ethische reflectie. Bij nader inzien verklaren privacyoverwegingen of het gebrek aan transparantie dan ook maar een deel van de vervreemding die me overvalt als ik mijn dataselfie probeer te schieten. Mijn huiver heeft ook te maken met het idee dat de mens in zo’n mozaïek te vatten is, en even voorspelbaar en mechanisch werkt als de computer die hem beschrijft. En met het rotsvaste geloof in kennis en rationalisering, het reductionisme dat hieruit opstijgt. Ergens in het proces van dataficatie ga ikzelf verloren, en niemand lijkt zich daarom te bekommeren, alsof ik een goedkoop offer ben op het altaar van het dataïsme.
Internet is buiten het bereik van ons begrip gedreven en alleen langs indirecte weg te naderen. Hoe dichterbij we proberen te komen, hoe duidelijker het wordt: internet is zelf onclassificeerbaar. Het internetlandschap is stroperig, breidt zich soepel en haast ongemerkt uit, langs hoeken en gaten en over hobbels heen, tot het ons aan alle kanten omringt en aan onze handen blijft plakken.
Irrelevante zoekmachine
Het is een verre van statisch ding, deze beweeglijke, zich uitbreidende en weer slinkende blob, die soms zo dicht is dat hij je het zicht ontneemt en andere keren weer bijna niet op te merken valt, als een web van rook dat in de lucht hangt.
Tegelijkertijd is internet onderhevig aan entropie en verstuiven z’n onderdelen als stof, zoals de journalist Adrienne Lafrance schrijft. Ze zocht een Pulitzer Prize-winnende online reportage die na een paar jaar gewoonweg verdwenen bleek. Ze schrijft: ‘Het web zoals het verschijnt op een bepaald moment is een fantasmagorie. Het is geen plek in de betrouwbare zin van het woord. Het is geen bewaarplaats. Het is geen bibliotheek. Het is een constant veranderende lappendeken van voortdurende nu-momenten.’
In het klein is dat ook te zien bij de ego-Google-search, de moedwillig opgezochte confrontatie met je dataselfie. De mijne is in de loop van de jaren in elk geval sterk van kleur verschoten. In het eerste decennium van deze eeuw bestond die nog uit links naar websites van anderen, idiosyncratische bloggers zoals ikzelf met hooguit een paar honderd lezers. Maar op een gegeven moment was de selfie die terugkeek samengesteld uit rijen met LinkedIn- en Facebook-links, webshop na webshop met een en hetzelfde boek dat ik schreef en een copyright notice over Europese wetgeving. Mijn datadubbelganger is een homo economicus geworden: flets, saai en flinterdun. Wat Google zelf ook mag beweren, de zoekmachine is commerciëler en dus irrelevanter geworden.
Mijn oude ‘ik’ kan ik daar niet meer terugvinden, overgegeven als ze is aan resultaten die geld opleveren. Wat rest is een datamonster van Frankenstein. Terwijl de onderdelen ervan samenklonteren rond een klein aantal vaste punten – Google, Amazon, LinkedIn – desintegreert de rest. De onbruikbare delen die geen inkomsten genereren vallen van het monster af, in een spoor dat direct verwaait en nooit meer terug te volgen is.
Google mag soms een synoniem lijken voor internet, maar is dat gelukkig niet. Ook Google heeft er geen grip op. Geschapen door de mens, gaat dit object zijn eigen weg.
Het is inderdaad een klont, zoals Maxim Februari ook schrijft: ‘Je denkt dat je een kloon hebt, je denkt dat je de hele wereld in je hand houdt, je stopt al je gegevens in programma’s en die programma’s laat je autonoom beslissen. Je maakt ze eerst volledig zelflerend en zelfsturend, en zo komt het dat ze al snel de controle overnemen. Nu heb je dus een kloon – nee, een soort kloon – van de werkelijkheid die volledig autonoom opereert. Dit is de klont.’ Het voorspelbare databeest wordt onvoorspelbaar, het berekenbare onberekenbaar. De klont, geautomatiseerd van oorsprong, de-automatiseert zichzelf – een beetje zoals de taal op haar uiterste grens verkeert in verraad en leugen.
Foto: © Merlijn Doomernik
Miriam Rasch is essayist en werkt bij het Instituut voor Netwerkcultuur van de Hogeschool van Amsterdam. Ze studeerde literatuurwetenschap en filosofie. In 2015 won ze de Jan Hanlo Essayprijs Klein. In 2017 verscheen haar essaybundel Zwemmen in de oceaan: Berichten uit een postdigitale wereld, die genomineerd werd voor de Socratesbeker en de Hypatia-prijs. Dit is een voorpublicatie uit haar boek Frictie. Ethiek in tijden van dataïsme, dat op 7 mei verschijnt.
Frictie: Ethiek in tijden van dataïsme
Miriam Rasch
Uitgeverij De Bezige Bij
240 blz. | € 21,99
