Dataverzamelaars weten meer van je dan je lief is. Niet alleen door data die jij bewust deelt, maar ook door wat wordt afgeleid uit jouw online gedrag. Neem likes op sociale media: daarmee kunnen techbedrijven verrassend precieze voorspellingen doen over jouw geaardheid en politieke voorkeur. De cultuur van algoritmische voorspellingen breidt zich steeds verder uit, van marketing naar beslissingen over kredietwaardigheid, medische risico’s en militaire operaties. Is het geoorloofd dat besluitnemers vertrouwen op het advies van algoritmes?
Ja
Stel, je bent ziek en je arts stelt voor om met hulp van een algoritme een behandelplan op te stellen. Op basis van grote hoeveelheden data over soortgelijke gevallen kan de arts zeer nauwkeurig voorspellen hoe groot de kans op complicaties is bij verschillende behandelmethoden. Wil jij dat algoritmische advies dan inwinnen? Ik vermoed van wel, want je gezondheid zal er profijt van hebben. Daarin zit de grote kracht van big data: besluitvorming wordt efficiënter en accurater. Dat zijn misschien geen morele waarden, maar ze zijn wel van groot belang voor goede beslissingen, ook op ethisch vlak. Als doktersbeslissingen met algoritmische input in de regel beter uitvallen dan beslissingen zonder, dan zou het verkeerd zijn als dokters hiervan geen gebruikmaken.
Nee
Menselijke data zijn nooit zuiver: ze kunnen bestaande vooroordelen weerspiegelen en versterken. Ongelijkheden in de samenleving, bijvoorbeeld tussen mannen en vrouwen of verschillende klassen, komen daarom gemakkelijk terug in adviezen van algoritmes. De data waarmee algoritmes worden gevoed moeten dus kritisch worden beoordeeld. Bovendien blijft de vraag in hoeverre een individueel persoon zich voegt naar de hokjes waarin de data-analyse mensen plaatst. Voorspellingen over individuen berusten op vergelijkingen met andere individuen die statistisch gezien aan hen verwant zijn. Maar een beslissing die kijkt naar ‘anderen zoals jij’ verschaft nog geen zekerheid over jouw gedrag. Zul jij een lening terugbetalen of niet? Een besluitvormer heeft de plicht de autonomie van individuen te respecteren en er rekening mee te houden dat jij misschien op een andere manier handelt.
