Toen de stofzuiger op de markt kwam was men bang dat vrouwen zich kapot zouden gaan vervelen. Techniekfilosoof Marjolein Lanzing laat zien hoe moeilijk het is om bij ontwerpers ethisch bewustzijn te wekken.
Yet why do I say this? I have myself been blasted in these hopes,
yet another may succeed.’
Mary Shelley, Frankenstein
In mijn hoofd zie ik het voor me: drie zwart bebrilde mannen die net samen een uitgebreide lunch hebben gedeeld kijken argwanend naar een demonstratie van de Hoover-stofzuiger, een nieuw apparaat dat de eigenaren tonnen aan energie en tijd zal besparen. Zoveel tijd dat ze de mogelijkheid zullen hebben om de krant te lezen. Zoveel tijd dat ze de voordeur uit kunnen. Zoveel tijd dat ze zich maatschappe
lijk kunnen roeren. Een prachtig voorbeeld van technologie waarvan de positieve onbedoelde effecten sociale verandering teweeg hebben gebracht.
Dit artikel is exclusief voor abonnees
Dit artikel op Filosofie.nl is alleen toegankelijk voor abonnees. Met liefde en zorg werken wij iedere dag weer aan de beste verhalen over filosofie. Steun ons door lid te worden voor maar €4,99 per maand.
Log in om als abonnee direct verder te kunnen lezen of sluit een abonnement af.
De mannen lopen knikkend, kuchend en fronsend om het apparaat heen, loeren in de slang en drukken op de aan/uit-knop. Peinzend strijken ze over hun snorren terwijl ze zich over het nieuwste huishoudelijke gadget buigen. Dan kijkt de man met het vlassige baardje met een zorgelijk gezicht omhoog. Hij duwt zijn zwarte montuur terug zijn neus op en vraagt: ‘Maar wat moet de vrouw dan doen?’
Als filosoof juich ik het natuurlijk toe dat mensen zich verdiepen in de mogelijke maatschappelijke consequenties van nieuwe technologieën, maar om deze anekdote rondom de stofzuiger moet ik altijd nog grinniken. Hoe is het mogelijk dat er een tijd is geweest waarin mensen werkelijk dachten dat vrouwen zich kapot zouden vervelen op het moment dat hun werk uit handen zou worden genomen? Wat had ik graag deze bebrilde mannen geholpen om de juiste vraag te stellen. Gelukkig wordt daar tegenwoordig wel aandacht aan besteed.
Big Data
Samen met mijn collega’s probeer ik studenten elektro-
techniek en scheikunde aan de Technische Universiteit
Eindhoven te overtuigen van het belang om na te denken over de mogelijke ethische dilemma’s die samenhangen met hun technologische dromen. Dit om te voorkomen dat de Nobel-
prijswinnende strak ontworpen automatische komkommer-
snijder in de toekomst wordt ingezet als massavernietigingswapen. Om dit verhaal kracht bij te zetten vertel ik ze dat de feestelijke prijs der prijzen een jaarlijkse herinnering is aan de onbedoelde consequenties van een technologie, oorspronkelijk bedacht voor de mijnbouw, die als wapen aan talloze mensen het leven heeft gekost.
Tekst loopt door onder illustratie
Illustratie: Martyn F. Overweel
Zelfrijdende auto’s, designerbaby’s, orgaanprinters, smartdrugs, nanotechnologie, zorgrobots en allerlei varianten op het inzetten van big data om onze veiligheid, gezondheid en duurzaamheid te verbeteren: dit is nog maar een kleine greep uit de ingenieuze, maar wellicht omstreden technologische dromen waar de studenten mee aankomen.
Ontwerpen kunnen ze. Ze presenteren ideeën en mogelijkheden waar Isaac Asimov nog een sciencefictionpuntje aan kan zuigen. Moeilijker is het om de maatschappelijke betekenis van de ontwerpen in te schatten, om een stap terug te doen en jezelf eens af te vragen in wat voor samenleving je eigenlijk wilt leven en om te beoordelen of je ontwerp dat beeld ondermijnt of versterkt. Zo werd tijdens eerdere colleges onder mijn neus verscheidene keren het concept van een totalitair regime heruitgevonden en hadden onze opa’s en oma’s, als het aan sommige studenten had gelegen, alleen nog maar contact gehad met praatgrage robots.
‘Met elke generatie wordt het moeilijker om ons een toekomst voor te stellen die op het heden lijkt’, verzucht Jonathan Safran Foer. En wat voor toekomst zou ik voor mijn kinderen willen? Een waarin ze hun eigen kleren ’s ochtends 3D-printen? Een waarbij ze niet hoeven te bewegen of te spreken om te kunnen communiceren? Een waarin ze voor altijd zullen leven?
Nieuwe technieken en technologieën bepalen, sturen en geven vorm aan de manier waarop wij de wereld ervaren. Het wiel, de telescoop en de computer zijn voorbeelden van technologieën die nieuwe werelden voor ons hebben ontsloten – inclusief nieuwe mogelijkheden en problemen. Soms houdt dit in dat we ons op een heel radicale manier moeten heroriënteren omdat een ontdekking ervoor heeft gezorgd dat we de wereld nooit meer kunnen zien als daarvoor. Denk maar aan de copernicaanse wending die ons geocentrisch wereldbeeld op zijn kop zette.
Creativiteit
Kwantumcomputers, nanobots, big data… Razendsnelle en revolutionaire technologische ontwikkelingen geven een nieuwe betekenis aan de ‘maakbaarheid’ van de toekomst. Maar hoe maak je eigenlijk iets betekenisvols voor de toekomst?
Enthousiast begin ik over mijn favoriete onderwerp. Big data, de vierde industriële revolutie, vervaagt de grenzen tussen mens, internet, machine en de buitenwereld. Data voorspellen (en bepalen) steeds meer en beter wie we zijn, wie we kennen, waar we waren en waar we heen gaan. Wie deze data in handen heeft, heeft macht. En met macht komt verantwoordelijkheid.
Ik zie de aandacht van de gezichten van mijn studenten richting hun computers glijden. Ze volgen mij niet meer. Zoekmachines, social media en gezondheidsapps zijn deel van hun dagelijkse routines. Facebook is geen dynamiet en een leven zonder zoekmachines is ondenkbaar. Zij zijn al halve cyborgs en hebben niks te verbergen.
Toegegeven: het is lastig voor te stellen hoe Instagram, een kunstmatig intelligente Barbie of een stappenteller op je telefoon bijdraagt aan een paradigmaverschuiving. Toch voelen we vaak ook op de kleinere schaal van ‘intieme’ technologie dat we onze relaties met de wereld en elkaar moeten herdefiniëren. Onderling hebben we er gesprekken over of onze smartphones onze levens verrijken of verarmen. Dragen onze WhatsApp-gesprekken iets bij aan de vriendschap? Is het erg als de overheid weet wat ik google? Is het erg dat Google weet wat ik google? Is het gezond als je op vakantie met uitgestrekte arm over een praktisch onbewoond eiland rent in de hoop ergens een wifi-signaal op te vangen? En is het slim om al mijn medische gegevens aan mijn iPhone toe te vertrouwen? Wat we eerst als een irritante onderbreking van onze bezigheden beschouwden of een regelrechte inbreuk op onze privacy, is normaal geworden. We zoeken het zelfs op.
‘Wie doet het niet’, ga ik verder, ‘nog even snel je werkmail checken voor je gaat slapen of door Twitter scrollen terwijl je aan tafel zit? De architectuur van de technologie maakt het mogelijk, en wij worden verleid, tot de technonorm de sociale norm is geworden. Tenzij we een stap terug doen en bedenken hoe we zelf willen dat de maatschappij eruitziet.’
Nu worden ze wakker. Dit klinkt als een belemmering van de vooruitgang! Het groepje dat werkt aan een orgaanprinter slaat mij met een aantal techno-optimistische en deterministische argumenten om de oren. ‘Je houdt de technologie niet tegen.’ ‘Mensen waren ook bang voor de stoomtrein.’ ‘Dit soort overwegingen remt creativiteit en innovatie.’
Black Mirror
Hebben we het zelf in de hand of niet? Ik durf te denken van wel. Per 1 januari hebben bijvoorbeeld Franse werknemers het recht gekregen om offline te zijn na werktijd. In 2014 werd Google op de vingers getikt met het recht om vergeten te worden en in 2015 werd er bepaald door het Europese Hof dat Europese persoonsgegevens niet zomaar door Facebook mogen worden doorverkocht aan (Amerikaanse) bedrijven.
De interessantere vraag die ik mijn studenten zou willen meegeven is of we het zelf in de hand zouden moeten hebben. Filosoof Luciano Floridi stelt dat er bij het ontwerpen van de infosfeer, een informationele omgeving vol mensen, robots en cyborgs, een zware verantwoordelijkheid komt kijken die nog te weinig serieus wordt genomen. Deze verantwoordelijkheid ligt zowel bij de ontwerpers die meewerken aan het bouwen van deze sfeer als bij de inwoners ervan. Je hoeft maar naar de onheilspellende afleveringen van Black Mirror te kijken om het belang in te zien van de volgende vragen: ‘Wat bouwen we eigenlijk?’ ‘Hoe zouden we willen dat de maatschappij eruitziet?’ En: ‘Als we eenmaal in een nieuwe wereld leven, hoe verdelen we dan de verantwoordelijkheid onderling?’ Kan een bedrijf bijvoorbeeld aansprakelijk worden gehouden voor een ongeval met een zelfrijdende auto?
We maken constant iets van de toekomst. De vraag is hoe we iets betekenisvols van de toekomst maken. Dat kan alleen als we de juiste ethische vragen stellen, zoveel mogelijk vanuit een inclusieve gedachtegang, fantasie en vanuit een verantwoordelijkheidsgevoel met betrekking tot de bedoelde en onbedoelde consequenties voor de maatschappij. Positief of negatief.
‘Daarom is het zo belangrijk dat jonge ontwerpers en ingenieurs zich verdiepen in ethiek, dat ze de juiste vragen leren stellen, kritisch kunnen zijn en de sociale impact van technologieën leren begrijpen’, declameer ik. Er wordt braaf geknikt.
De bel gaat. Computers waarop tot voor kort nog gefacebookt werd worden met lichtsnelheid in tassen gepropt. Terwijl de collegezaal leegstroomt blijven er een paar eerstejaars heftig discussiërend achter. Nieuwsgierig geworden door het enthousiasme loop ik op het clubje af. Dit zie je hier zelden. Liever wordt er gelast, gemodelleerd, ge-3D-print, niet gefilosofeerd. Zeker niet in de pauze.
De studenten hebben onenigheid over hun ontwerp: een intelligent, geheel zelfvoorzienend huis waarbij de koelkast de boodschappen doet, waarin het koffiezetapparaat communiceert met je wekker en waarin een robot het huis stofzuigt.
‘Privacy, veiligheid, vrijheid…’ In mijn hoofd sorteer ik alvast de dilemma’s die me te binnen schieten in verband met het Internet of Things en de eindeloze stroom persoonlijke data die het nodig heeft om te kunnen functioneren.
Het groepje betrekt mij in het gesprek. ‘Wanneer het huis alles zelf doet, dan kan dat ook kwalijke gevolgen hebben!’ Gloeiend van trots wacht ik de argumenten af, klaar voor de juiste vragen. Een van de studenten neemt het voortouw. Hij heeft een vlassig baardje en een bril. Voorzichtig kijkt hij naar mij op terwijl hij het montuur terug zijn neus op duwt en vraagt: ‘Wat moet de vrouw dan doen?’
