Filosoof en informatica-expert Robert Goené: ‘Stel je voor dat we deze uitvinding zouden gebruiken in een zaal waar wiskunde wordt gegeven. We leggen alle studenten in een MRI-scanner en meten hun breinactiviteit tijdens het college. Het kunstmatige-intelligentiesysteem schrijft vervolgens de gedachten van de studenten uit. Wat zullen we dan lezen? Ik ben geen MRI-expert en ken de uitvinding niet precies, maar als die werkt zoals de onderzoekers zeggen, dan krijgen we waarschijnlijk te lezen welke onderwerpen in het college langskomen en hoe de studenten daar zelf over denken.
Dit artikel is exclusief voor abonnees
Maar er zullen ongetwijfeld ook gedachten zijn die we niet teruglezen. Misschien dat een student eindelijk begrijpt hoe een moeilijke theorie werkt. Om het kwartje te laten vallen heeft taal een onmisbare rol gespeeld, maar het begrijpen zelf is niet geheel van taal afhankelijk. Neem de notie van oneindigheid. Er bestaat een wiskundige notatie voor oneindigheid en je kunt het begrip uitleggen, maar oneindigheid kunnen vatten is niet talig. Je kunt geen oneindig aantal talige uitingen in je brein hebben. Wiskundige symbolen en talige uitleg verwijzen naar de niet-talige intuïtie die we hebben over noties als oneindigheid. Op een gegeven moment denk je: ik snap het, en dan heb je de intuïtie aangeboord. Je hebt woorden nodig om bij de intuïtie te komen, maar de intuïtie zelf is niet tot taal te reduceren en valt dus ook niet om te zetten in tekst.
Dat we voor een groot gedeelte in taal denken lijkt mij evident, maar niet alle gedachten zijn een kwestie van taal. Ik noemde al onze intuïtie over abstracte begrippen, maar er bestaan ook mensen die van nature minder in woorden en meer in beelden denken. Mensen verschillen in de manier waarop ze denken, afhankelijk van hoe ze bedraad zijn.’
Verhullen
‘Aan deze uitvinding ligt het idee van het zogeheten large language model ten grondslag: een revolutionaire manier om computers te laten leren door ze met enorm veel data te voeden, waar ChatGPT het bekendste voorbeeld van is. Dit werkt ongelooflijk goed bij het nabootsen van taal – en dat is fascinerend en eng tegelijk. We zullen ongetwijfeld op deze manier van alles leren over de werking van complexe fenomenen. En als een combinatie van MRI en een AI-systeem gedachten kan “lezen” en omzetten in woorden is dat handig voor mensen die bijvoorbeeld niet meer kunnen praten of die hun gedachten snel op papier willen krijgen.
Maar deze uitvinding breed inzetten zou funest zijn voor onze sociale communicatie. Communiceren is niet alleen onthullen, maar ook verhullen. Sommige dingen die we denken willen we niet delen, bijvoorbeeld omdat we het gezellig willen houden aan tafel. Ik kan me eigenlijk geen sociale situatie voorstellen waarin het goed zou zijn als we elkaars gedachten konden lezen. Bij taal hoort een filter op de innerlijke dialoog, een kort moment tussen de dingen die we denken en de zinnen die we uitspreken.’
Bron feit
Tang, J., A. LeBel, S. Jain en A.G. Huth (2023), ‘Semantic reconstruction of continuous language from non-invasive brain recordings.’ Nature Neuroscience 26, 858-866.
