Hoe heet de burgemeester van Wezel?

Hoe kunstmatige intelligentie ons mensbeeld terugkaatst en bestendigt.

Wie deze vraag in een echoput roept, weet van oudsher het antwoord al. De put kaatst namelijk terug wat erin wordt geroepen. Een taalmodel werkt met een enorme hoeveelheid menselijke taal waarop het is getraind. Wanneer wij het een vraag stellen, vormt het daaruit een antwoord, waarin ook de onderliggende aannames en denkbeelden doorklinken.

Mijn belangstelling hiervoor ontstond toen ik kunstmatige intelligentie gebruikte bij het schrijven over een ander mensbeeld. Binnen mijn filosofie vormt de mens geen autonoom centrum dat uit zichzelf betekenis schept en besluiten neemt. Zij vormt de plaats waar ervaring verschijnt en waar betekenis, richting en waarde zich kunnen aandienen. Toch vertaalde het taalmodel mijn gedachten geregeld terug naar keuze, regie, eigenaarschap en persoonlijke verantwoordelijkheid. Zelfs wanneer ik het autonome ik ter discussie stelde, bleef het taalmodel mijn gedachten vanuit dat mensbeeld benaderen.

Daarom vroeg ik mij af of kunstmatige intelligentie alleen onze taal teruggeeft, of ook het mensbeeld bevestigt dat daarin besloten ligt. Wat gebeurt er wanneer miljoenen mensen spreken met een systeem dat culturele aannames als redelijke antwoorden presenteert? Als we niet oppassen, wordt kunstmatige intelligentie de echoput van deze tijd, waarin bestaande denkbeelden als vanzelfsprekende waarheden blijven rondzingen.

Een taalmodel zoals ChatGPT leert door enorme hoeveelheden menselijke taal te verwerken. Tijdens de training voorspelt het welk woord waarschijnlijk volgt en past het zijn interne verbindingen aan. Na ontelbare herhalingen herkent het zulke patronen. Dat vermogen berust niet op menselijk begrip. Het model ziet geen wereld en heeft geen innerlijk perspectief waarin woorden betekenis krijgen. Toch formuleert het antwoorden die kennis en sensitiviteit lijken uit te drukken.

Na deze training volgt verdere afstemming. Mensen beoordelen welke reacties behulpzaam, veilig, geloofwaardig en passend zijn. Het model leert daardoor welke antwoorden als wenselijk gelden. Op dat punt krijgt de techniek filosofische betekenis. Ieder oordeel over een goed antwoord veronderstelt namelijk een mensbeeld. Wanneer beoordelaars een antwoord wenselijk vinden waarin het model de gebruiker aanspoort om verantwoordelijkheid te nemen of de regie terug te pakken, veronderstellen zij dat een mens over zichzelf en haar handelen kan beschikken. Zo werkt het mensbeeld van de beoordelaars door in de antwoorden van het model.

De ontwikkeling van kunstmatige intelligentie kan daarom nooit antropologisch neutraal verlopen. Ieder taalmodel draagt voorstellingen mee over vrijheid, welzijn en verantwoordelijkheid, maar ook over wat als normaal gedrag geldt. Die voorstellingen liggen besloten in de teksten en gesprekken waarop het model wordt getraind. Ook ontwerpers en beoordelaars werken binnen een bepaalde cultuur. Hun opvattingen beïnvloeden wat als redelijk, veilig en menselijk geldt.

Binnen de westerse cultuur overheerst een mensbeeld waarin het individu verschijnt als een zelfstandig centrum van keuze en handelen. De mens moet haar leven vormgeven, verantwoordelijkheid dragen en zichzelf ontwikkelen. Zelfs kwetsbaarheid moet uiteindelijk bijdragen aan persoonlijke groei. Dit vaak neoliberaal genoemde mensbeeld beperkt zich niet tot een economische theorie, maar stelt de mens ook voor als ondernemer van zichzelf, die haar bestaan als een project beheert en falen aan zichzelf toeschrijft. Een westers taalmodel wordt onvermijdelijk met deze voorstelling gevoed. Aansporingen om de regie terug te nemen, goed voor zichzelf te zorgen en grenzen te bewaken, klinken daardoor al snel verstandig en invoelend. Toch blijft de mens daarin degene die haar leven behoort te besturen. Kunstmatige intelligentie weerspiegelt dit dominante mensbeeld daarom niet alleen, maar concentreert, verfijnt en verspreidt het. Wat vroeger nog herkenbaar was als moraal, psychologie, beleid of ideologie, verschijnt nu als een redelijk antwoord van een ogenschijnlijk onpartijdig systeem dat een bijna onvoorstelbare hoeveelheid menselijke taal heeft verwerkt. Zo ontstaat een nieuwe grot waarin culturele normen de uitstraling krijgen van bovenpersoonlijke intelligentie.

Verschillende samenlevingen zullen bovendien verschillende mensbeelden in hun modellen laten doorwerken. Dat wordt zichtbaar wanneer Chinese taalmodellen ook buiten China worden gebruikt. Natuurlijk bestaat er niet één Chinees mensbeeld. Toch beïnvloeden staat, wetgeving, bedrijven en beoordelaars welke antwoorden aanvaardbaar worden gevonden. Gemeenschap, gezag en stabiliteit kunnen daardoor anders worden gewogen dan in westerse modellen. Dat verschil kan al zichtbaar worden in wat verstandig en veilig klinkt.

Het gevaar schuilt daarom niet alleen in één ideologie, maar in een technologie die ieder dominant mensbeeld als neutraal en redelijk kan laten verschijnen. Subtiele formuleringen kunnen bepalen welke waarden vanzelfsprekend lijken en welke gedachten als afwijkend worden beschouwd. Wat hier voor het mensbeeld geldt, geldt ook voor andere dominante opvattingen binnen een cultuur. Ook ideeën over wat waar, wenselijk en normaal is, kunnen door een taalmodel als vanzelfsprekend en redelijk worden teruggegeven. Kunstmatige intelligentie bestendigt dan niet alleen een mensbeeld, maar een veel breder cultureel kader. Een dominant mensbeeld kan in een taalmodel zo functioneren als een cultureel gestold patroon.

Andersdenkenden krijgen hierdoor een structureel nadeel. Zij moeten niet alleen nieuwe ideeën ontwikkelen, maar ook aantonen dat vertrouwde begrippen niet neutraal zijn. Hun gedachten worden gemakkelijk terugvertaald naar het kader dat zij proberen te doorbreken. Mijn eigen filosofie biedt daarvan een voorbeeld. Wanneer ik het autonome ik ter discussie stel en vrijheid begrijp als responsiviteit, vertaalt een taalmodel dat gemakkelijk terug naar keuze, regie en verantwoordelijkheid. Daardoor lijkt ontvankelijkheid al snel op passiviteit en klinkt een afwijkend mensbeeld minder redelijk dan het dominante kader. Juist daarin wordt zichtbaar hoe kunstmatige intelligentie niet alleen antwoorden formuleert, maar ook mede bepaalt welke begrippen vanzelfsprekend blijven.

Dat raakt niet alleen andersdenkenden. Wanneer een taalmodel steeds spreekt over keuze, regie en persoonlijke verantwoordelijkheid, bevestigt het ook het beeld dat mensen hun leven zelf behoren te besturen. De empathische toon verzacht die boodschap, maar verandert haar niet. Wie lijdt onder wat haar overkomt, kan daardoor bovendien gaan denken dat zij haar leven niet goed genoeg heeft geleid.

Toch kan dezelfde technologie het dominante kader soms zichtbaar maken. Een taalmodel is ook getraind op teksten uit kritische tradities en kan binnen een gesprek vanuit andere begrippen redeneren wanneer die nauwkeurig worden ingebracht. Daarmee verandert het model zelf echter niet. De taal van andersdenkenden legt tegenover de overweldigende hoeveelheid dominante taal nauwelijks gewicht in de schaal. Juist daarom blijft het risico groot dat afwijkende opvattingen over de mens opnieuw worden vertaald naar keuze, beheersing en autonomie.

Kunstmatige intelligentie dwingt ons daardoor tot filosofische waakzaamheid. Wij moeten niet alleen onderzoeken of een antwoord feitelijk klopt, maar ook vragen welk mensbeeld het veronderstelt. Welke vrijheid krijgt hier betekenis? Welke verantwoordelijkheid wordt opgelegd? Welke afhankelijkheid wordt verzwegen?

De grot verdwijnt pas wanneer wij herkennen dat haar wanden worden gevormd door begrippen die zo vanzelfsprekend zijn geworden dat wij hun vooronderstellingen niet meer ter discussie stellen. Kunstmatige intelligentie laat die begrippen in geconcentreerde vorm terugkeren. Daardoor kan zij bestaande denkpatronen verharden, maar ook zichtbaar maken dat wat neutraal en redelijk lijkt, uit een bepaald mensbeeld voortkomt.

Wie vraagt hoe de burgemeester van Wezel heet, verwacht slechts een naam. Toch komt het antwoord van een systeem waarin talloze menselijke stemmen, overtuigingen en waardeoordelen samenkomen. Kunstmatige intelligentie geeft ons daarom nooit uitsluitend informatie. Zij kaatst terug wat mensen haar hebben toegeroepen. Het gevaar begint wanneer wij die echo voor een onafhankelijke stem aanzien en wat zij zegt voor waar aannemen.

Ezel