Home Het Experiment: Waarom computeralgoritmen discrimineren

Het Experiment: Waarom computeralgoritmen discrimineren

Door Carolien van Welij op 28 juni 2017

Het Experiment: Waarom computeralgoritmen discrimineren
07-2017 Filosofie magazine Lees het magazine

In menselijke oordelen zitten impliciete vooroordelen. Kunnen we daarom beter vertrouwen op berekeningen van computeralgoritmen?

Illustratie: Bas van der Schot

‘Steeds meer menselijke beoordelingstaken zullen we aan algoritmes uitleveren, bijvoorbeeld het automatisch beoordelen van cv’s bij sollicitaties of het detecteren van creditcardfraude’, vertelt filosoof Leon Geerdink, die onder meer onderzoek doet naar de ethiek van kunstmatige intelligentie. ‘Maar onkritisch gebruik kan grote maatschappelijke consequenties hebben. Denk bijvoorbeeld aan het algoritme dat Amerikaanse rechters gebruikten om de kans te berekenen dat veroordeelden opnieuw de fout in zullen gaan: dat onderschatte de kans op recidive bij blanke Amerikanen en overschatte die bij Afro-Amerikanen.

Onbedoeld coderen we soms menselijke vooroordelen in computeralgoritmen. We geven een algoritme een input van bijvoorbeeld cv’s en zeggen hoe de gewenste output eruit moet zien: wat geschikte kandidaten zouden zijn. De gevaarlijke vooronderstelling is dat die data objectief zouden zijn. Als daarin systematische menselijke vooroordelen zitten, herkent het algoritme die patronen en zal het automatisch exact die vooroordelen vertonen. Een groot probleem is dat algoritmen vanwege commerciële belangen vaak beschermd zijn. Niemand kan controleren wat een algoritme precies aan het berekenen is, waardoor kritisch onderzoek en verbetering moeilijk is. 

Algoritmen zijn niet objectief, maar ze zijn óók niet kwaadaardiger dan mensen. Ze werken als een spiegel. Daarom kunnen we algoritmen juist gebruiken om onze eigen vooroordelen op te sporen.’

Dit artikel is exclusief voor abonnees

Dit artikel op Filosofie.nl is alleen toegankelijk voor abonnees. Met liefde en zorg werken wij iedere dag weer aan de beste verhalen over filosofie. Steun ons door lid te worden voor maar €4,99 per maand. Log in om als abonnee direct verder te kunnen lezen of sluit een abonnement af.

Relevante berichten

Weekendlijstje Spijt
Weekendlijstje Spijt

Weekendlijstje Spijt

Bij zijn bezoek aan Congo op 8 juni betuigde de Belgische koning Filip spijt voor de Belgische wandaden tijdens de koloniale overheersing. Hoewel officiële excuses ontbraken, werd deze spijtbetuiging geprezen als een stap in de goede richting. Maar kun je wel excuses maken voor iets wat je zelf niet gedaan hebt? Wat betekent spijt hebben eigenlijk en waar dient het voor? In dit weekendlijstje vindt u vijf artikelen over spijt.

Lees meer
Kunstmatige intelligentie
Kunstmatige intelligentie
Bewustzijn

Een zelfbewuste computer is onze favoriete nachtmerrie

Een softwareontwikkelaar van Google veroorzaakte een media-storm door te stellen dat zijn werkgever gebruikmaakt van een zelfbewuste chatbot. Maar is dat wel mogelijk? En wat betekent het dat we computers ontwikkelen die ons kunnen doen geloven dat ze bewust zijn?

Lees meer
Woede
Woede

Weekendlijstje: Woede

Een groep woedende boeren trok afgelopen week naar het huis van minister Van der Wal om hun onvrede te uiten over de nieuwe stikstofmaatregelen van het kabinet. Hoewel er in de maatschappij begrip lijkt te bestaan voor de boosheid bij boeren, klinkt er ook kritiek op de manier waarop zij deze boosheid uiten. Wat is woede, hoe gaan er mee om en kunnen we het positief inzetten? Daarover meer in dit weekendlijstje.  

Lees meer
Verbeelding
Verbeelding

Weekendlijstje verbeelding

Kinderen fantaseren de wonderlijkste verhalen bij elkaar. Als volwassenen raken we die kinderlijke fantasie vaak een beetje uit kwijt. Zonde, want we kunnen veel leren van onze eigen verbeelding. Dit weekend een lijstje over fantasie en verbeelding.

Lees meer