Log in




Wachtwoord vergeten
Log in | Word lid | Service

Filosofie.nl

Filosofie Abonnement
02-08-2017

Waarom we bang zijn voor kletsende AI’s

Met deze knop kunt u, als u lid bent, artikelen toevoegen aan een leeslijst op uw persoonlijke pagina. Klik hier voor uw abonnement op maat.

Lianne Tijhaar
Redacteur Filosofie Magazine

Een computersysteem dat door Facebook werd ontwikkeld, begon een eigen taal te vormen. De onderzoekers besloten het systeem stop te zetten. Dit bericht werd veel gedeeld op sociale media. Volgens Maarten den Braber, co-founder van SingularityU, heeft dat alles te maken met onze angst voor het autonome computersysteem.
 
Het Artificial Intelligence systeem dat door Facebook werd ontwikkeld reageerde niet zoals de onderzoekers hadden verwacht. Het programma besloot om zelf een taal te creëren die niet meer begrijpelijk was voor zijn menselijke makers. Het systeem was niet langer controleerbaar. De onderzoekers besloten de stekker uit het project te trekken.
 
Hoe kan het gebeuren dat een computer een eigen taal ontwikkelt?
‘De meeste technologie wordt geprogrammeerd op efficiëntie. Het systeem moet zoveel mogelijk presteren in zo min mogelijk tijd. In dit geval gingen twee algoritmes op zoek naar de meest optimale vorm om te communiceren. Mensen hebben bijvoorbeeld spaties nodig om twee woorden uit elkaar te kunnen houden. Een algoritme kan besluiten om ieder woord met een hoofdletter te beginnen, waardoor spaties niet meer nodig zijn. Een computersysteem heeft dus maar de helft van een boek nodig om hetzelfde verhaal te vertellen. Maar blijkbaar was het doel van de Facebook-ontwikkelaars dat de conversatie toegankelijk bleef voor mensen. Dat bleek niet het geval, dus werd het project stopgezet.’
 
Het nieuws werd veel gedeeld op sociale media. Waar komt die fascinatie vandaan?
‘Dat heeft alles te maken met angst voor een autonomous AI (artificial intelligence). We zien twee algoritmes die samen beslissingen nemen zonder dat daar mensen tussen hoeven te komen. Wat als de wetenschappers ze niet hadden kunnen stoppen? Zijn ze nog wel te stoppen in de toekomst? Het schrikbeeld is een parallel universum waar we niet meer bij horen. Die kloof zie je nu al ontstaan tussen digital haves en have nots: mensen die niet met technologie overweg kunnen, hebben het gevoel dat ze uit de samenleving worden gedrukt. Je kunt geen uitkering meer aanvragen of je moet naar werkplein.nl om een digitaal dossier aan te maken. We gaan er allemaal maar vanuit dat iedereen over die vaardigheden beschikt, terwijl twintig jaar geleden nog niet de helft van de Nederlanders een computer met internet had.’
 
Hoe waarschijnlijk is het dat de wereld wordt overgenomen door een artificial intelligence?
‘Dat lijkt me onwaarschijnlijk. De problemen die wij moeilijk vinden, zijn voor een AI vaak makkelijk – en omgekeerd. Algoritmes worden meestal ingezet voor rekenproblemen of kwesties met veel mogelijkheden. Op de beurs wordt bijvoorbeeld gebruikgemaakt van high-frequency-trading. Dat is een volledig geautomatiseerde methode waarin verschillende algoritmes binnen één seconde beslissen welke aandelen worden aangekocht of verkocht. Maar die algoritmes houden geen rekening met het effect op de rest van de economie. Hun enige belang is om zoveel mogelijk geld te verdienen voor degene die dat algoritme uitbaat. Dat belang is er door mensen ingestopt. Dit is niet zonder maatschappelijke risico’s. In 2010 vond een gigantische flashcrash plaats, waarna het twee jaar gekost heeft om te reconstrueren wat er precies gebeurd was. Technologie heeft geen ethisch bewustzijn, maar dat wil niet zeggen dat het geen ethische consequenties heeft.’
 
Wat kan er misgaan met een computersysteem dat een eigen taal ontwikkelt?
‘Vorig jaar werd een andere chatbot gestopt door zijn ontwikkelaars: de Tay van Microsoft. De chatbot was zo geprogrammeerd dat hij leerde van zijn sociale omgeving, in dit geval Twitter. Maar wat de programmeurs over het hoofd hadden gezien, is dat chatbots vaak niet zo netjes worden aangesproken. Binnen 24 uur was het een nazistische, racistische, vrouwonvriendelijke bot geworden die de meest vuile en vunzige antwoorden gaf op je vragen.’
 
Zou het ook kunnen dat de wereld juist een stukje beter wordt als algoritmes ons inhalen?
‘Algoritmes kunnen artsen helpen om een betere diagnose te stellen, of rechters helpen om de strafmaat te bepalen. Maar ik zou er niet voor pleiten om bijvoorbeeld rechtspraak volledig te vervangen door een algoritme. Het wekt de illusie dat algoritmes objectief zijn, maar dat zijn ze niet. In algoritmes worden ook beslissingen genomen. Er bestaat niet zoiets als een objectief oordeel. Als de rechtspraak geautomatiseerd zou worden door een algoritme, voorspel ik je dat er in no time vier versies van zijn, die allemaal tot een ander oordeel komen omdat ze andere afwegingen maken.’
 
‘Als we niet oppassen krijgt technologie een cultstatus. Alsof technologie objectief en onschendbaar is. Er bestaat zelfs een term voor: PEBKAC (Problem Exists Between Keyboard And Chair). De computer treft geen blaam, die doet het altijd goed. Maar zo werkt het helemaal niet. Ook algoritmes maken bepaalde afwegingen. En die kun je aanpassen. Het is dus belangrijk dat we altijd aandacht blijven besteden aan de afwegingen die het systeem maakt. Dat mensen daar bewust van worden en daarover nadenken, is volgens mij een goede uitkomst van het bericht over het onnavolgbaar kletsende computersysteem van Facebook.’

Maarten den Braber is FreedomLab-resident en co-founder van SingularityU, een innovatiecampus waar nieuwe technologieën en ontwikkelingen worden bestudeerd.
 
Filosofie.nl is te gast op de campus van FreedomLab, innovatie-hub in Amsterdam. Artikelen verschijnen in het kader van RE:invent. » Lees meer
 
Wilt u toegang tot alle artikelen van filosofie.nl? Word dan lid.

Welkom op filosofie.nl!

Speciaal voor nieuwe bezoekers selecteerden wij negen inspirerende artikelen. Lees waarom onderzoek naar geluk niet deugt, zes soorten vervreemding op de werkvloer, hoe Socrates de opkomst van Trump al voorspelde, en meer...

Lees meer
Ik lees graag later

Als u hier uw e-mailadres achterlaat, dan sturen wij het kennismakingsdossier naar u toe. U kunt het dan op ieder gewenst moment lezen.