Als je een willekeurig iemand vraagt wat hij belangrijk vindt in het leven, is de kans klein dat hij ‘verantwoorde artificiële intelligentie’ zal antwoorden, vermoedt techniekfilosoof en AI-ethicus Joris Krijger (1991). Wat hij wél zal noemen: liefde, leuke sociale contacten, familie, een goede gezondheid of betekenisvol werk. Maar, stelt Krijger in zijn boek Onze kunstmatige toekomst (2025), in elk van deze antwoorden speelt AI een rol, of zal dat in de nabije toekomst gaan spelen. Denk aan banken die met behulp van AI bepalen of je een hypotheek krijgt, AI-gestuurde zorgrobots aan het bed of potentiële werkgevers die dankzij AI met één druk op de knop uit honderden sollicitaties de ‘meest geschikte’ kandidaat filteren. ‘Waar het uiteindelijk om draait is niet de technologie zelf, maar de vraag: wat merken we van technologie in de dingen die voor ons belangrijk zijn,’ stelt Krijger, die aan de Erasmus Universiteit Rotterdam promotieonderzoek doet naar hoe we van een kunstmatige toekomst een menswaardige toekomst kunnen maken.
Want of je het nu leuk vindt of niet: AI is een systeemtechnologie die, net zoals elektriciteit en het internet, onze samenleving verregaand en blijvend zal veranderen. En dus is het volgens Krijger, ook werkzaam bij de ASN-bank als ethiek– en AI-specialist, van belang om na te denken of we wel voorbereid zijn op deze grote veranderingen. AI wordt getraind met data uit een imperfecte wereld; ze leert van onze keuzes. Daarmee, zegt Krijger, ‘kan ze ons veel vertellen over hoe de wereld was, soms iets over hoe de wereld is, maar absoluut nooit iets over hoe de wereld zou moeten zijn.’
In uw boek signaleert u dat we steeds minder te zeggen hebben over hoe Al wordt ingezet. Technologie kan een ‘verantwoordelijkheidsvacuüm’ creëren. Kunt u dat toelichten?
‘Tijdens mijn studie raakte ik gefascineerd door de vraag wat technologie met mensen doet. Ik kwam op het spoor van het verantwoordelijkheidsvacuüm toen ik me ging verdiepen in de bankencrisis van 2008 en de rol die technologie daarin speelde. Wat me opviel was dat niemand zich moreel verantwoordelijk voelde voor wat er was gebeurd en dat het vrijwel onmogelijk was om iemand juridisch aansprakelijk te stellen. Toen heb ik onderzoek gedaan naar de relatie tussen geavanceerde technologie en verantwoordelijkheid. Digtalisering creëert een extra laag tussen jou en de rest van de wereld, concludeerde ik, waardoor vaak niet aan de voorwaarden voor verantwoordelijkheid kan worden voldaan.
‘De technologie beheerst ons en wij beheersen de technologie’
AI versterkt het proces van het ontlopen van verantwoordelijkheid, want hoewel AI niet kan bepalen wát ze doet, bepaalt ze wel hóe de taak wordt uitgevoerd. Het voordeel van AI is dat een uitkomst is gebaseerd op veel meer data dan wij mensen kunnen verwerken. Het nadeel is dat we niet precies weten hoe het systeem tot bepaalde keuzes komt, wat de vraag vertroebelt wie verantwoordelijkheid draagt voor de uitkomst. Dat kan tot bizarre situaties leiden. Een goed voorbeeld daarvan is een rechtszaak tegen Air Canada uit 2024. Een AI-chatbot van de luchtvaartmaatschappij had een klantenkorting beloofd die niet bestond. In de rechtszaal stelde de luchtvaartmaatschappij dat ze niet verantwoordelijk kon worden gehouden, omdat de AI-chatbot een “eigen juridische entiteit” zou zijn die zelfstandig keuzes maakt.’
Hoe wordt er binnen de filosofie over technologie nagedacht?
‘Ik heb veel geleerd van de Duitse filosoof Martin Heidegger. Hij stelt dat technologie niet alleen een verzameling instrumenten is die wij beheersen, maar dat de technologie ook óns beheerst. Technologie is een autonome kracht die ertoe leidt dat de mens onderdeel wordt van een technische wereld, waardoor hij zijn vrijheid verliest. Herbert Marcuse verbond die gedachte aan het idee van macht en onderdrukking: nieuwe technologie is volgens hem geen neutrale vooruitgang, maar een instrument van sociale controle dat bestaande machtsstructuren verstevigt. Sindsdien hebben tal van filosofen zich beziggehouden met de aard van technologie: is ze een venster op de wereld of een onafhankelijke kracht waarover we nauwelijks iets te zeggen hebben? Tegenwoordig zijn er veel filosofen die een tussenpositie innemen: ja, technologie vormt ons op een bepaalde manier, maar tegelijk kunnen we keuzes maken over wat we met die technologie willen.’
Welke ethische vragen roept Al op?
‘AI maakt de vraag wat technologie eigenlijk is en vooral wat ons als mensen te doen staat relevanter dan ooit, omdat AI een zelfstandigheid heeft die geen enkele andere vorm van technologie ooit gehad heeft. In het maatschappelijke debat gaat het daar te weinig over. De reacties op AI zijn grofweg te verdelen in twee categorieën: je hebt de pessimisten, die ofwel zeggen dat AI het einde van de mensheid betekent ofwel beweren AI de belofte niet kan waarmaken en vanzelf zal verdwijnen. En je hebt de optimisten, die AI zien als dé weg naar de toekomst; hieronder kun je ook de grote techbedrijven scharen die vanuit hun eigenbelang AI als onontkoombaar presenteren. Beide houdingen ten aanzien van AI zijn niet alleen onjuist, maar ook gevaarlijk: ze geven het idee dat je niet in actie hoeft te komen. Terwijl passiviteit funest is als het om dit soort grote transities gaat.
Er zijn mensen die profiteren van AI omdat ze meer winst kunnen maken, een leuke baan vinden of een kind hebben dat door AI floreert op school. Maar er zijn ook mensen die hun baan verliezen, onterecht als fraudeur worden aangewezen of meer premie moeten gaan betalen terwijl ze het al niet breed hebben. We moeten ons steeds opnieuw afvragen wat onze waarden zijn en hoe we die waarden kunnen vasthouden in een tijd waarin AI ons met alles zou kunnen helpen, maar misschien niet met alles zou moeten helpen.’
Tekst loopt door onder afbeelding
U pleit voor een houding van ‘kritisch realisme’, zoals filosoof Antonio Gramsci dat ooit omschreef. Wat bedoelt u hiermee?
‘Een pessimisme van het intellect en een optimisme van de wil. Dat betekent dat je je niet naïef toont, bijvoorbeeld over de belangen en machtsrelaties die achter deze technologie schuilgaan. Je moet realistisch zijn over de wereld die je aantreft – met afspraken, wetten, toezichthouders en belangengroepen. Maar tegelijkertijd moet je je daardoor niet laten weerhouden in je pogingen om die krachten anders te laten werken.’
De verantwoordelijkheid voor verantwoorde Al ligt niet als eerste bij het individu, zegt u, maar bij organisaties. Waarom is dat?
‘Dat heeft drie redenen. De eerste reden is dat AI ons leven voornamelijk verandert via de organisaties waarmee we elke dag te maken hebben: de supermarkt, de huisarts, de gemeente, de bank. De keuzes die deze organisaties maken, bepalen hoe de systemen van de toekomst eruit gaan zien. Op dat niveau liggen dus de belangrijkste mogelijkheden om AI verantwoord in te zetten. De tweede reden is dat we keer op keer in de wetenschappelijke literatuur zien dat een aanpak die alleen gericht is op het individu niet werkt. Je kunt niet verwachten dat individuele ontwerpers van AI ethische keuzes maken als de organisatie waarbij ze werken heel andere doelen voor ogen heeft, zoals winstmaximalisatie of efficiëntie. En de derde, en voor mij belangrijkste, reden, is dat iedereen een organisatie kan veranderen. Het debat over AI voelt soms erg abstract en de precieze technische kant ervan kan moeilijk te volgen zijn. Maar iedereen kan meepraten over hoe AI in hun eigen organisatie wordt gebruikt of hoe ze de inzet van AI ervaren bij een organisatie waar ze zelf als klant of burger mee te maken hebben.
Voor organisaties is de wet volgen of ethische richtlijnen opstellen een goed begin, maar lang niet voldoende. Wat voor de wet toegestaan is, kan nog steeds ethisch niet te rechtvaardigen zijn. Bovendien kun je wetgeving op allerlei manieren interpreteren. Dat geldt ook voor ethische richtlijnen. Ik pleit daarom ervoor dat organisaties “ethische infrastructuren” aanbrengen. Dat zijn processen en mechanismen die zorgen voor inspraak en reflectie. Daarmee bouw je een systeem van controle en tegenmacht op, waarbinnen ook kan worden nagedacht of het moreel gerechtvaardigd is hoe AI wordt ingezet binnen de organisatie.’
Waar moet je beginnen als je zelf de rol van Al in je leven wilt bevragen?
‘Realiseer je dat ethische dilemma’s bij AI zich meestal niet vanzelf aandienen. Je moet er actief werk van maken om ze boven tafel te krijgen. Als je AI wil bevragen moet je daarom zorgen dat ethiek een vast onderdeel is van je dagelijkse manier van werken en leven. En als je werkt binnen een organisatie kun je dilemma’s zelf agenderen, bijvoorbeeld door ze bespreekbaar te maken in teams. Vervolgens kun je je met anderen gaan organiseren om zorgen over het gebruik van AI te bespreken.’
‘Hoe kunstmatiger onze toekomst, hoe belangrijker onze waarden’
U stelt dat hoe kunstmatiger onze toekomst is, hoe belangrijker onze menselijke waarden zijn. Hoe komt dat?
‘De mens is een irrationeel wezen dat in AI een ultieme rationele entiteit tegenover zich vindt. Het wordt steeds gemakkelijker om je af te sluiten van de realiteit en je te verliezen in een kunstmatige wereld waarin alles te vormen is naar jouw persoonlijke voorkeuren. Je hoeft geen moeite meer te doen voor anderen, want je kunt met AI in één druk op de knop een perfect rapport of bericht opstellen. Maar dat roept ook de vraag op wat we echt belangrijk vinden: is dat echt alleen gemak en efficiëntie? Of willen we ook door de ander gezien worden en verbindingen aangaan? Zingeving en waardigheid vind je niet in een frictieloze wereld.
AI is een technologie die zo verweven is met ons leven, dat ze raakt aan de kern van ons bestaan: onze keuzes, onze relaties en ons werk. Als we op de automatische piloot meebewegen met de technologische ontwikkelingen, verliezen we onze waarden uit het oog. Terwijl AI ook kan helpen om menselijke waardigheid te versterken. Er is bijvoorbeeld een AI-toepassing die, getraind op bewegingen van de beste gebarentolken wereldwijd, geschreven tekst in kinderboeken kan omzetten naar gebarentaal. Deze app vertaalt de tekst rechtstreeks naar gebarentaal, die wordt vertolkt door een virtuele tolk, waardoor dove kinderen de verhalen kunnen volgen. Met menselijke waarden als uitgangspunt kan AI een enorme verrijking zijn.’
Onze kunstmatige toekomst. Wat wij willen met AI (en AI met ons)
Joris Krijger
Spectrum
336 blz.
€ 22,99
