De vrees voor moderne technologie heeft diepe religieuze wortels. Eeuwenlang waarschuwden bijbelse profeten voor het einde der tijden. Een einde dat de zondige mens over zichzelf had afgeroepen. Dat met Gods toorn niet te spotten valt wist de voormoderne mens maar al te goed. Iedereen kende het verhaal van de zondvloed. Zo vertelt de Bijbel dat de mens, met Noah als enige uitzondering, een verderfelijk leven was gaan leiden, waarop de Almachtige de mensheid met een reusachtige vloedgolf over de kling joeg. Het is een verhaal dat we terugvinden in tal van culturen: van de Koran tot het oude Gilgamesj-epos, in de mythologie van de Afrikaanse Masai en in die van de Groenlandse Eskimo’s.
De angst voor het zelfveroorzaakte einde der tijden heeft de dood van de bijbelse God ruimschoots overleefd. Vandaag de dag doemt hij op in het beeld van de mens die Gods plaats inneemt als vernietiger van de aarde. Dreigen wij immers niet zelf een einde te maken aan ons bestaan, daartoe in staat gesteld door onze eigen kernwapens of door olie en steenkool te verstoken? Dít is blijkbaar de volgorde: eerst is er de oeroude angst voor de Apocalyps, vervolgens wordt er telkens weer een oorzaak bij gedacht.
Vuur, elektriciteit, treinen, liften, telefoons, bioscoopfilms, walkmans en computers: welke techniek ook wordt geboren, nooit komt die ter wereld zonder een boodschap van onheil. De telefoon zou de romantische interactie tussen mensen reduceren tot oeverloos geleuter. Bioscoopfilms werden ervan beschuldigd jongeren aan te zetten tot misdaad, het verwilderen van de zeden, verweken van breinen en bederven van ogen. Begin jaren tachtig vreesde men de walkman, omdat deze zou worden ‘omarmd door hersenloze consumenten’ die als ‘opwindbare non-mensen’ linea recta onder aanstormende auto’s konden marcheren. In de jaren zestig en zeventig was de aanstormende computer voor velen een existentiële bedreiging. Hij zou de mens beroven van zijn belangrijkste vermogens: zijn arbeid en zijn denken.
Dit artikel is exclusief voor abonnees
Verwilderen
De vroegnegentiende-eeuwse luddieten vreesden dat hun eigen weefgetouwen hen werkloos zouden maken – reden om de machines aan gruzelementen te slaan. Honderd jaar later protesteerde Charlie Chaplin in Modern Times tegen de lopende band, omdat die arbeiders reduceerde tot robots. Tegenwoordig zijn het, bijvoorbeeld, de anarcho-primitivisten, geïnspireerd door de filosoof John Zerzan, die ons ervan willen overtuigen hoe overheersend techniek en wetenschap zijn geworden. Ooit, zo meent Zerzan, stond simpele techniek ten dienste van de mens. Nu is de mens onderworpen aan complexe technologie, die bovendien in handen is van een kapitalistische elite. Zonder televisie, smartphone en geld nemen de anarcho-primitivisten weer afstand van alle beschaving in een poging te verwilderen en weer één te worden met de natuur.
Welke techniek ook wordt geboren, nooit komt die ter wereld zonder een boodschap van onheil
John Zerzan is meer activist dan filosoof. Toch waarschuwden niet de minsten onder de filosofen voor de nadelige effecten van technologie. In de Oudheid maakte Socrates grote bezwaren tegen de technologie van het schrift. Wie kon lezen en schrijven hoefde zijn gedachten immers niet meer te onthouden. En wie ze toch opschreef, was gedoemd ze te vergeten. Gelukkig dacht Plato daar anders over toen hij Socrates’ ideeën alsnog aan de papyrus toevertrouwde. Vijfentwintig eeuwen later waarschuwde Martin Heidegger tegen álle moderne technologie. Heidegger benadrukte ‘de potentieel dodelijke machines en apparaten van de technologie’. Al waarschuwde hij vooral dat technologie ons het zicht ontneemt op de diepe, mysterieuze kanten van het bestaan.
Momenteel brengt de Israëlische filosoof en historicus Yuval Noah Harari de gevaren van de moderne technologie sterk onder de publieke aandacht. Het lijkt haast geen toeval dat zijn tweede voornaam direct verwijst naar het invloedrijke verhaal uit de Hebreeuwse Bijbel. In zijn boeken Homo Deus en Lessen voor de 21ste eeuw benadrukt Harari dat we op het punt staan om de moderne mens, de Homo sapiens, op te heffen. En de oorzaak ligt in de toenemende invloed van kunstmatige intelligentie op onze levens. Wij mensen dénken dat we vrij zijn; ja, dat we almaar meer vrijheid genieten. Volgens Harari worden we echter langzaam maar zeker ‘gehackt’ door algoritmes. Dankzij de moderne biotechnologie zijn deze steeds beter in staat om diep in ons lichaam en onze geest door te dringen. Langzaam maar zeker worden we opgezogen door het zwarte scherm – Black Mirror – van onze telefoons, iPads en laptops.
Ideaal voor Gestapo en KGB
Deze gloednieuwe combinatie van biotechnologie en informatietechnologie stuurt ons volgens Harari kanten op waar we zelf maar amper weet van hebben. Google en Facebook, maar ook overheden en – wie zal het zeggen – regelrechte criminelen, weten inmiddels meer van ons dan wijzelf. Ze kennen niet alleen onze levensloop en onze aankopen, ze weten ook van onze ziektes en genetische aanleg; ze volgen onze emoties, gedachten, angsten en dromen.
Iedere doemdenker blijkt in zijn redeneringen op dezelfde patronen terug te vallen
En wij laten de hackers hun gang gaan. Hoe handig is het immers dat de Strides Habit Tracker ons maant tot meer slapen en minder zitten. Of dat Blendle ons laat weten welk artikel we het liefst lezen. We willen ze simpelweg niet meer missen, de geautomatiseerde bloeddrukmeting en de psychologische check-up. Harari vreest dan ook dat we over een halve eeuw met huid en haar zijn overgeleverd aan dit illustere duo bio- en informatietechnologie. In een van zijn vele televisieoptredens vertelt hij dat we bezig zijn de ideale situatie te scheppen voor organisaties als de Gestapo en de KGB.
Vijf jaar geleden was Harari nog een onbekend historicus, gespecialiseerd in middeleeuwse geschiedenis aan de Hebreeuwse Universiteit van Jeruzalem. Inmiddels verschijnen zijn boeken in vijftig talen en zijn er meer dan 20 miljoen van verkocht. Dat hij zo vlot over de toonbank gaat zou je kunnen verklaren door zijn meeslepende verhaal, zijn superieure schrijfstijl en zijn ontwapenende publieksoptredens. Anderzijds verkopen onheilsboodschappen nog steeds heel wat beter dan een geruststellend verhaal. Duizenden jaren aan opgeslagen angst in ons reptielenbrein vallen gemakkelijk te activeren. Ook al waarschuwt Harari dat hij geen helderziende is en dat alles heel anders kan aflopen, zijn grote verhaal over de opheffing van de zelfstandig denkende en handelende mens past wel degelijk in een traditie van waarschuwende profeten die hartstochtelijk oproepen tot bekering.
Gezonde achterdocht
Het is belangrijk om Harari’s waarschuwingen serieus te nemen, zoals het ook goed was om die van Socrates, Heidegger en John Zerzan te overwegen. Maar juist in een tijd van toenemende angst en apocalyptisch denken is het ook goed om hen met gezonde achterdocht te lezen. En dat lukt wonderwel door in hun redeneringen vier patronen te ontdekken waar iedere doemdenker uiteindelijk op terug blijkt te vallen.
Een eerste patroon is de waarschuwing dat het onherroepelijk fout zal lopen, tenzij we alles op alles zetten om het o zo recente en unieke gevaar te ontmantelen. Radicale bekering, zo roepen alle profeten, is de enige mogelijkheid om de ondergang af te wenden. Tegelijkertijd constateert Harari dat zo’n radicale bekering niet zal plaatsvinden. We genieten simpelweg te veel van de moderne bio- en informatietechnologie om er radicaal mee te breken. Juist dit realisme versterkt zijn apocalyptische suggestie dat we met open ogen richting afgrond wandelen. Wie jaren later terugkijkt op een dergelijke oproep tot radicalisme, merkt dat het er gelukkig maar zelden van kwam en dat de wereld gewoon door bleef draaien. En dat, wanneer de radicale omwenteling wel plaatsvond, die nogal eens ontaardde in bloedvergieten.
Hoe reëel de problemen ook zijn die Harari benoemt, ons oplossend vermogen is net zo reëel
Een tweede patroon is de claim van iedere profeet dat de problemen zo nieuw zijn dat er geen historisch vergelijk mogelijk is. Ook Harari benadrukt keer op keer dat er altijd wel systemen waren die ons onze menselijkheid dreigden te ontnemen, maar dat het huidige gevaar van bio- en informatietechnologie zonder precedent is. Op de keper beschouwd is dat natuurlijk zo. Maar ook de introductie van het vuur, het schrift, de trein en de speelfilm waren zonder precedent. Toch liepen ze niet uit op de ondergang van het geheugen, onze melkproductie of de zedelijkheid. De uitdaging is telkens weer nieuw; onze angst voor het nieuwe is telkens weer oud.
En daarmee stoten we op een derde patroon: de voortzetting en uitvergroting van huidige uitdagingen in de toekomst. Profeten gaan er altijd van uit dat de maar al te concrete problemen van vandaag zullen uitlopen op de rampen van morgen. Hun oog voor concrete oplossingen is doorgaans niet al te sterk ontwikkeld. Nu is het zonder meer een probleem dat techgiganten als Google en Facebook veel te veel van ons weten. Tegelijkertijd neemt het verzet toe. Via VPN kun je je zoektocht op internet goed versleutelen. Facebooks WhatsApp valt te omzeilen via Signal. De Europese Unie dwong Google om zijn gebruikers het recht te geven om ‘te worden vergeten’. Zowel de privacywetgeving als het aantal veiligheidsmaatregelen groeit met de dag. Mensen zitten nu eenmaal niet stil. Hoe reëel de problemen ook zijn die Harari benoemt, ons oplossend vermogen is net zo reëel.
Het vierde patroon, ten slotte, is de verdediging van het voorzorgsprincipe. Zo benadrukt Harari niet alleen hoe groot de kans is dat we worden ingepakt door de illustere combinatie van bio-engineering en informatietechnologie, steevast laat hij er ook op volgen dat we er eigenlijk niet aan hadden moeten beginnen. En dat doet hij dan via de gedachte dat je geen technologie in de markt moet zetten waarvan je de gevolgen niet kunt overzien. Tijdens een discussie op YouTube met de psycholoog Steven Pinker zegt Harari het volgende: ‘Stel je bent een ingenieur. Je staat op het punt om een nieuwe uitvinding te introduceren. Dan doe je er goed aan om je de meest kwaadaardige man voor de geest te halen die je je kunt voorstellen. Bedenk vervolgens wat hij met jouw uitvinding zou kunnen doen. Overweeg dan opnieuw of je deze uitvinding wel op de markt wilt brengen.’
Alomvattende passiviteit
Het is een interessante vraag, en de logische consequentie van elke angstige blik op onze technologische mogelijkheden. Harari poneert hem in de laatste minuut van het gesprek en Pinker kan er niet meer op antwoorden. Daarom doen wij het voor hem.
Laten we van die meest kwaadaardige man nazi’s als Adolf Eichmann of Josef Mengele maken. En stel dat we in de negentiende eeuw hadden kunnen bedenken waarvoor Eichmann treinen en spoorlijnen zou gebruiken, hadden we die dan ooitgebouwd? Hadden we kunnen voorspellen wat Mengele zou uitvreten in Auschwitz, waren we dan ooit begonnen aan hersenonderzoek of genetica? De nazi’s maakten voluit gebruik van het vuur, het schrift, elektriciteit en speelfilms. Was het niet beter geweest deze van meet af aan te verbieden? Zou Prometheus, met beelden voor ogen van brandende lijkenstapels in Treblinka, überhaupt het vuur van de goden hebben gestolen?
Louter het idee van een dramatische uitkomst ontaardt in een massief nee tegen alle mogelijkheden die de technologie ons brengt. Mogelijkheden met dreigende kanten, maar vooral toch mogelijkheden die onze levens oneindig veel gezonder, veiliger en mooier hebben gemaakt. Uiteindelijk leidt apocalyptisch denken tot niets anders dan stilstand en een alomvattende passiviteit. Want dat is de ultieme consequentie van het voorzorgsbeginsel: speel op veilig en doe nooit iets voor de eerste keer.
