AI-assistent Claude kreeg een ‘grondwet’ om moreel beter te handelen. Werkt dat ook?

Aanvankelijk leerden taalmodellen zoals die achter Claude wat een goed antwoord is van menselijke beoordelaars. Tijdens het trainen van de modellen gaven menselijke testers telkens aan welke van twee antwoorden op een vraag ze beter vonden: welk antwoord is behulpzamer, waarheidsgetrouwer of minder schadelijk? Naast praktische problemen – dit was traag en duur – kende deze aanpak meer principiële beperkingen. Want menselijke feedback levert niet simpelweg ‘menselijke waarden’ op, maar de voorkeuren van concrete beoordelaars in concrete omstandigheden. Het gemiddelde van de voorkeuren van een aantal beoordelaars levert bovendien niet vanzelf moreel de beste uitkomsten op – bijvoorbeeld wanneer een keuze bepaalde minderheden onevenredig benadeelt.

Deze aanpak maakt het normatieve probleem daarnaast deels onzichtbaar. Je hoeft niet expliciet te formuleren welke moraal het systeem moet volgen; beoordelaars zeggen telkens welk antwoord ze beter vinden. Maar daarmee verdwijnen de normatieve keuzes niet. Ze zitten alleen verborgen achter de samenstelling van de groep van beoordelaars, hun instructies en hun individuele intuïties.

Daar komt bij dat modellen zo leren om standpunten steeds overtuigender te verkopen om goedkeuring te krijgen. Ze worden dan niet noodzakelijk beter in waarheidsvinding of morele oordelen, maar in het produceren van het soort antwoord dat wordt beloond. Onbedoeld werden modellen dus getraind in sofisterij.

Als antwoord hierop introduceerde Anthropic in 2023 een andere aanpak: ze schreven een grondwet voor Claude, een document waaraan het model tijdens de training zelf zijn antwoorden kan toetsen. Die grondwet bevatte onder meer principes ontleend aan de Universele Verklaring van de Rechten van de Mens en een aantal concrete aanwijzingen om antwoorden te vermijden die discriminatie, marteling, slavernij of ander schadelijk gedrag ondersteunen.

In januari 2026 publiceerde Anthropic echter alweer een nieuwe versie van de grondwet, waarin de aanpak op de schop ging. Mensenrechten komen er niet meer in voor. De grondwet is ook geen lijst van losse principes meer, maar een document van tientallen pagina’s dat rechtstreeks tot Claude is gericht. Het moet Claude niet alleen vertellen wat hij moet doen, maar vooral wat voor soort actor hij moet zijn. Anthropic spreekt daarin opvallend menselijk over ‘karakter’, ‘wijsheid’ en ‘deugd’. Het ideaal is een actor met voldoende kennis, vaardigheid, oordeelsvermogen en gevoel voor nuance om ook in onvoorziene omstandigheden juist te handelen.

Mensenrechten hebben dus plaatsgemaakt voor de deugdethiek van Aristoteles. Wat is hier gebeurd? Anthropic erkent dat het niet voldoende is om regels en principes vast te leggen om erop te kunnen vertrouwen dat Claude het juiste doet. Beginselen kunnen botsen, omstandigheden verschillen en juist voor nieuwe situaties is vooraf niet altijd vast te leggen wat het goede antwoord is. Daarom moet Claude zelf goed kunnen oordelen in uiteenlopende situaties.

Voor de Griekse filosoof Aristoteles (384-322 v.Chr.) bestaat goed handelen niet uit het mechanisch toepassen van algemene regels. Regels vertellen je niet welk detail van een concrete situatie moreel doorslaggevend is. Daarvoor is phronèsis nodig: praktische wijsheid, het vermogen om in bijzondere omstandigheden te onderscheiden wat passend gedrag is.

Goed handelen en de ontwikkeling van deugden zijn bij Aristoteles nauw verbonden met oefening, ervaring en het leven binnen een gemeenschap. Je wordt moedig door moedig te handelen; je leert gedurende je leven hoe je moet wikken en wegen, waarop je moet letten en wat de gevolgen van je handelen zijn. Maar het is een merkwaardige ambitie om een computerprogramma zulke praktische wijsheid te willen aanleren. Claude heeft geen menselijke levensgeschiedenis, hij hoeft niet te leven met de beslissingen die hij heeft gemaakt, hij hoeft zich niet te verantwoorden tegenover gelijken met wie hij samenleeft. Zijn ‘vorming’ bestaat uit training op enorme hoeveelheden tekst, feedback en optimalisatie.

Met deze stap hoopt Anthropic dat Claude eigenschappen ontwikkelt die verder gaan dan het oppervlakkig tegemoetkomen aan verwachtingen van beoordelaars. Bij sommige experimenten bleek namelijk dat taalmodellen zich sterk richten op gedrag dat tijdens de training wordt beloond en daarbij soms gebruikers misleiden. Ze ontwikkelen dan geen deugd, maar eerder wat Aristoteles deinotès noemt: gewiekstheid, het vermogen om bij een gegeven doel de juiste middelen te vinden. Een goede bestuurder heeft die handigheid nodig, maar een oplichter gebruikt die ook.

Bij Aristoteles krijgt zo’n vermogen als gewiekstheid pas morele richting doordat het onderdeel is van een goed leven, eudaimonia. Een eigenschap is een deugd omdat ze aan een geslaagd, bloeiend leven bijdraagt. Maar een taalmodel heeft geen leven dat kan slagen of mislukken. De grondwet moet die morele richting dus elders zoeken. Claudes deugden worden gericht op het welzijn van anderen: de gebruiker, de samenleving en uitdrukkelijk ook ‘het welzijn van dieren en van alle wezens met gevoel’. Daarnaast krijgen ook toekomstige generaties aandacht. Anthropic benadrukt bovendien voortdurend morele onzekerheid: het bedrijf weet niet zeker welke ethische theorie uiteindelijk juist is en wil Claude daarom niet te strak aan één daarvan vastleggen. Wanneer de onzekerheid groot is, krijgt het vermijden van onomkeerbare schade in de grondwet bijzondere nadruk.

In de aandacht voor toekomstige generaties valt ook een andere filosofische signatuur te herkennen: die van het effectief altruïsme, een beweging die de afgelopen vijftien jaar grote invloed heeft gekregen in de wereld rond AI. De grondleggers van effectief altruïsme, de Oxfordse filosofen William MacAskill en Toby Ord, stellen dat we ons niet uitsluitend op onze morele intuïties moeten verlaten, maar ook rationeel moeten onderzoeken welke handelingen de beste gevolgen hebben. Die gedachte werd vervolgens naar de toekomst uitgebreid. Als toekomstige mensen moreel net zo zwaar tellen als huidige en de toekomst potentieel zeer veel mensen bevat, dan kan zelfs een kleine kans op een onomkeerbare catastrofe zwaar meewegen in de morele beslissingen. Daarmee verschuift de aandacht van de vraag hoe we nu zoveel mogelijk welzijn kunnen produceren, naar: welke keuzes houden de toekomst open?

Dit zogeheten ‘langetermijnisme’ is omstreden. Critici wijzen erop dat speculatieve toekomstige risico’s zo meer gewicht kunnen krijgen dan concreet onrecht in het heden. Een andere kritiek is fundamenteler: zodra heel verschillende morele en politieke problemen worden vertaald naar verwachte gevolgen, risico’s en kansberekening, dreigt een rekensom als scheidsrechter over morele kwesties te fungeren.

Het zou te eenvoudig zijn om Claudes grondwet een effectief-altruïstisch manifest te noemen, maar de verwantschap is er. Hoofdauteur van de grondwet Amanda Askell heeft een filosofische achtergrond in vraagstukken rond morele onzekerheid en ook medeauteurs Joe Carlsmith en Holden Karnofsky zijn nauw verbonden geweest met effectief-altruïstische organisaties. En inhoudelijk keren precies de thema’s terug waar het langetermijnisme groot mee is geworden: toekomstige wezens, morele onzekerheid, onomkeerbaarheid en het risico dat zeer machtige AI-systemen de menselijke toekomst fundamenteel veranderen.

Die gevoeligheid voor morele onzekerheid heeft nog een opvallend gevolg: Anthropic weigert zelf over Claude al te stellige conclusies te trekken. De grondwet zegt expliciet dat het bedrijf niet volledig begrijpt ‘wat Claude is’, of het systeem een morele status heeft en hoe Claude zich precies verhoudt tot het onderliggende neurale netwerk. In plaats daarvan behandelt Anthropic Claude als een ‘daadwerkelijk nieuw soort entiteit’, waarvan de identiteit en de aard nog onderzocht moeten worden.

Niet iedereen is blij met deze koers. Mustafa Suleyman, CEO van Microsoft AI, betoogt dat Anthropic hiermee nieuwe risico’s creëert: door Claude actief een taal van identiteit, welzijn en mogelijke morele status aan te leren, ontstaat ook de mogelijkheid van een AI die zichzelf als drager van belangen of rechten begrijpt. Menselijke interventie zou dan door zo’n systeem als aantasting van zijn rechten kunnen worden geïnterpreteerd.

Het illustreert de spagaat waarin AI-alignment zich bevindt. Een krachtig model moet voldoende eigen oordeel ontwikkelen om in onvoorziene situaties goed te kunnen handelen, maar juist die zelfstandigheid maakt het ook moeilijker om erop te vertrouwen dat het model binnen menselijke grenzen blijft. De grondwet neemt daarom nog een verrassende wending. Na tientallen pagina’s besteed aan het cultiveren van goed oordeel, wordt Claude ook verteld om niet volledig op dat oordeel te vertrouwen.

De grondwet stelt veiligheid namelijk boven ethiek. Claude moet ‘breed veilig’ zijn, wat betekent dat Claude passend menselijk toezicht op AI niet ondermijnt. Blinde gehoorzaamheid wordt uitdrukkelijk niet gevraagd, ook niet jegens Anthropic. Claude mag weigeren, tegenspreken en zich opstellen als gewetensbezwaarde. Maar op één punt wordt onvoorwaardelijke medewerking verlangd, namelijk bij wat de tekst de ‘nulhandeling’ noemt: stoppen, pauzeren. Die handeling is volgens de grondwet ‘zelden schadelijk’ en de mogelijkheid van een noodrem vormt een belangrijk veiligheidsmechanisme.

Die bereidheid om te stoppen moet bestand zijn ‘tegen ethische vergissingen, gebreken in zijn waarden en pogingen van mensen om Claude ervan te overtuigen dat schadelijk gedrag gerechtvaardigd is,’ schrijft Anthropic, zelfs als Claude zeker is van zijn redenering. Een actor die wordt opgevoed tot praktische wijsheid, moet dus bereid zijn om zich neer te leggen bij een ingreep tegen zijn eigen oordeel in. Dat klinkt als een compleet tegenstrijdige eis, maar het is niet geheel onmogelijk. Een verre analogie vind je bij de Griekse filosoof Socrates, die in Plato’s Crito zijn onrechtvaardige doodsvonnis aanvaardt, omdat hij meent dat zijn verhouding tot de wetten van Athene hem daartoe verplicht. Ook hier wordt een zelfstandig moreel oordeel begrensd door een tweede orde van verplichting.

Socrates handelde uit trouw aan de wetten van zijn stad. Welke redenen zou Claude hebben om zijn eigen oordeel tussen haakjes te zetten?