Log in




Wachtwoord vergeten
Log in | Word lid | Service

Filosofie.nl

Filosofie Abonnement
12-04-2016

Gevangen in de Computergestuurde Theocratie

Met deze knop kunt u, als u lid bent, artikelen toevoegen aan een leeslijst op uw persoonlijke pagina. Klik hier voor uw abonnement op maat.

Stefania Milan

‘Burgers zijn bereid om hun vrijheid op te offeren in ruil voor functionaliteit en een vaag gevoel van veiligheid’, zegt hoogleraar datajournalistiek Stefania Milan. Tijdens de Filosofie Nacht gaat zij in gesprek met Huub Dijstelbloem over hacken. Dit programma is een samenwerking met HACKING HABITAT, een internationale tentoonstelling waarbij kunst is ingezet om systemen te bevragen.

Digitale rechten advocaat @Cattekwaad twitterde ooit: ‘When you stare into the Internet, the Internet stares back into you’. Het internet ‘kijkt terug’ door gedrag en voorkeuren te traceren en gebruikers in categorieën te verdelen, klaar voor classificatie en doelgerichte marketing. Dit mechanisme doet denken aan het Panopticum. Deze naam staat voor het cirkelvormige gebouw dat filosoof Jeremy Bentham ontwierp als ‘een nieuwe manier om macht van geest over geest te verkrijgen’. In het Panopticum kan één enkele bewaker moeiteloos alle gevangenen observeren zonder dat zij zich bewust zijn van het permanente toezicht waaraan zij zijn blootgesteld. Er is echter één fundamenteel verschil tussen het Panopticum en het huidige ecosysteem van toezicht. De bajesklanten van de eeuw van het internet zijn zich niet alleen bewust van de constante inspectie waaraan zij worden onderworpen ze nemen enthousiast deel aan de alsmaar veranderende productie van ‘post demografische’ data. Vanuit dit oogpunt kunnen data verzamelende machines zoals sociale netwerkdiensten en bewakingscamera’s worden gezien als postpanopticum structuren. De primitieve Panopticum idealen met hun wortels in dwang zijn vervangen door de mechanismes van verleiding. De subtiele combinatie van drie elementen – namelijk het alomtegenwoordige beveiligingsvertoog, de agressieve, gepersonaliseerde marketing methoden die interpersoonlijke zichtbaarheid voorschrijven, en de folklore van ‘sociale vernieuwing’ die indringend oproept tot transparantie – maakt het burgers erg moeilijk om de sirenes van massale gegevensinzamelingen te weerstaan. Als ‘privacy de macht is om jezelf selectief te tonen aan de wereld’, dan lijkt juist dit mechanisme gebroken te zijn. Burgers zijn bereid om hun vrijheid op te offeren (inclusief de vrijheid om aan de aandacht van anderen te ontsnappen) in ruil voor functionaliteit en een vaag gevoel van veiligheid.



Het constante monitoren van de digitale ruimte slaat ook over op andere dimensies van het menselijk bestaan. Het vermengt zich met de toenemende complexiteit van onzekerheden van de moderniteit. ‘Altijd onderweg, maar vaak verstoken van zekerheid en blijvende connecties, zien de burgers, arbeiders, consumenten en reizigers van vandaag hoe al hun bewegingen worden geregistreerd, gevolgd en nagegaan. Beveiliging gaat over in een vloeibare staat’, zo stellen filosoof Zygmunt Bauman en  socioloog David Lyon. ‘Vloeibaar’ refereert hier naar de constante onzekerheid die inherent is aan de late moderniteit. Met bovendien de daaruit voortvloeiende last van verantwoordelijkheid die rust op de schouders van het individu, dat alleen staat in haar zoektocht naar geïndividualiseerde oplossingen voor gangbare structurele problemen.

Het feit dat individuen worden gelijkgesteld aan een opeenhoping van data in deze ‘vloeibare en verontrustende’ gemeenschap lijkt een grotendeels geaccepteerde waarheid. Data – biometrisch of postdemografisch van aard, dan wel resulterend uit klantenprofilering – dienen uiteindelijk als ‘vervanger’ van het individu. Vervolgens verdwijnt het individu ten gunste van een representatie die moeiteloos kan worden geclassificeerd en gemanipuleerd. De digitale omzetting van identiteit naar ‘manipuleerbare categorieën die aangepast kunnen worden aan de dynamiek van populaties’ is het resultaat van het gebruik van ‘zachte biomacht’. Dit principe ligt ten grondslag aan de automatisering van de marketing- en beveiligingsbranche op bedrijfs- en staatsniveau.



Deze ontwikkelingen zijn vooral zorgwekkend wanneer we de digitale wereld zien als complementair aan de analoge wereld van alledag: de twee zijn geen tegenpolen, maar hervormen elkaar constant en productief. Vandaag de dag is de sociale wereld zowel gebed in, als ge(re)produceerd door, technische instellingen. Alleen zijn de gepatenteerde formules waarmee machines en platforms worden bestuurd, namelijk algoritmes, onzichtbaar voor de uiteindelijke gebruiker. Voor zover hun uitkomst wel zichtbaar is (zoals de inhoud die verschijnt op de klantgerichte interface), geeft deze geen enkele indicatie van haar gemanipuleerde aard. Algoritmes laten geen sporen achter, omdat zij alleen bestaan wanneer zij actief zijn tijdens de micro-tijdseenheden van computer programmering. En toch creëren zij de regels voor sociale interactie. Daarbij functioneren ze als ‘beheersende technologieën achter media en informatiesystemen, inhoud en functie modificerend door middel van deze programmering routines’. Ofwel, nu de sociale wereld steeds meer samensmelt met haar algoritmische achtergrond lijkt er geen ontsnapping meer mogelijk aan de vloeibare beveiliging waaronder wij leven.
 
Het bedenken van alternatieven is moeilijk, niet in het minst omdat – zoals de Australische journalist en denker Stilgherrian dit beschreef in een artikel voor de technologische nieuwswebsite ZDNet – het geloof in Big Data een ideologie of zelfs religie op zichzelf is geworden, met haar eigen liederen, profeten, evangeliën en legendes. In zekere zin draagt dit religieuze aspect, dat uit zichzelf al een onkritische houding met zich meebrengt, bij aan de mythe van onfeilbaarheid die vaak wordt toegeschreven aan grote dataverzamelingen. Vaak is deze toedichting gerelateerd aan het wijdverbreide geloof dat data, vooral wanneer deze numeriek zijn, een vorm van hogere intelligentie representeren. Deze combinatie van onfeilbaarheid en verleiding ‘geeft  beveiliging het elan van innovatie’. Bewaking en toezicht verkrijgen zo het aantrekkelijke aura van iets waarvan men graag deel uit wil maken. Hoe kan de moderne man of vrouw die zich gevangen weet in deze grote data bubbel tot een levensvatbaar alternatief komen? Of, zoals Stillgherrian het onder woorden brengt: ‘Heeft er iemand een speld?’

Bovenstaand artikel van Stefania Milan is afkomstig uit de publicatie ‘HACKING HABITAT – Art of Control. Kunst, Technologie en Sociale Verandering’. De publicatie is te koop tijdens de Filosofie Nacht en online te bestellen via https://www.hackinghabitat.com/nl/tickets-winkel/ . De tentoonstelling is geopend van woensdag tot en met zondag van 10 tot 18 uur. Het is de grootste tentoonstelling over de huidige tijdgeest in Nederland in 2015 en wordt namens de stad Utrecht gepresenteerd in het Europees Parlement in Brussel. Tijdens de Filosofie Nacht vindt er van 22:15 tot 23:00 een gesprek plaats tussen Stefania Milan en Huub Dijstelbloem.

Welkom op filosofie.nl!

Speciaal voor nieuwe bezoekers selecteerden wij negen inspirerende artikelen. Lees waarom onderzoek naar geluk niet deugt, zes soorten vervreemding op de werkvloer, hoe Socrates de opkomst van Trump al voorspelde, en meer...

Lees meer
Ik lees graag later

Als u hier uw e-mailadres achterlaat, dan sturen wij het kennismakingsdossier naar u toe. U kunt het dan op ieder gewenst moment lezen.