Alle edities · Business Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging op het gebied van governance

De brief aan de klant

Voordat we ingaan op de filosofie achter governance, beginnen we met een verhaal over een brief. (Alle onbekende termen in deze reeks worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een directeur vraagt een AI-systeem om hulp bij het opstellen van een brief aan een trouwe klant wiens rekening achterstallig is geraakt. Ze is heel specifiek: ze wil een toon die de relatie erkent — vijftien jaar betrouwbare samenwerking — en tegelijkertijd duidelijk is over het openstaande saldo. De klant maakt een moeilijke periode door en de brief moet streng maar respectvol zijn. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een goed gestructureerde brief. De brief is professioneel, duidelijk en correct opgemaakt. Er wordt gesproken over „openstaande verplichtingen“, „herstelmaatregelen die binnen 14 dagen moeten worden genomen“, „doorverwijzing naar onze incassoafdeling“ en „onze plicht om de belangen van alle belanghebbenden te beschermen“. De brief leest prettig. Hij klinkt professioneel. En hij is volkomen verkeerd.

De klant heeft geen dreiging met incasso nodig. Ze moeten weten dat de relatie wordt gewaardeerd en dat er een betalingsregeling beschikbaar is. De directeur vroeg om standvastigheid binnen de context van de relatie, en de AI gaf haar een standaardtekst voor incasso — omdat de trainingsdata duizend incassobrieven bevatten voor elke brief waarin standvastigheid in evenwicht is met oprechte zorg voor een langdurig partnerschap.

De AI weigerde de instructie van de directeur niet. Hij zei niet: „Ik begrijp uw relatie met deze klant niet.“ Hij verving simpelweg wat zij vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging gebeurde stilzwijgend. Als de directeur het druk had gehad, afgeleid was geweest of minder oplettend dan normaal, had ze het misschien niet opgemerkt. De brief zou zijn verstuurd, en een vijftienjarige relatie zou een ongevoelige eis hebben ontvangen — professioneel geformuleerd, correct opgemaakt en volkomen ongepast.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen waarden overschaduwen

De brief aan de klant is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk bij elke interactie met AI.

Wanneer een teamlid een AI-systeem om advies vraagt over een meningsverschil op de werkvloer, grijpt het systeem standaard terug op Amerikaanse HR-taal – formele klachtenprocedures, documentatie voor rechtszaken, ‘het aanleggen van een papieren spoor’ – omdat dat de overhand heeft in de trainingsdata. Het grijpt niet terug op de taal van bemiddeling, coöperatieve probleemoplossing of het pragmatische gesprek dat kenmerkend is voor kleinere organisaties waar mensen al jarenlang samenwerken.

Wanneer een manager de AI vraagt om te helpen bij het overbrengen van een moeilijke beslissing aan het team, valt het systeem standaard terug op communicatiepatronen uit het bedrijfsleven — stakeholdermanagement, kernboodschappen, gecontroleerde informatieverschaffing — omdat interne communicatie van Fortune 500-bedrijven in de trainingsdata veel vaker voorkomt dan doordachte leiderschapscommunicatie van kleine bedrijven.

De AI staat niet vijandig tegenover de cultuur van uw organisatie. Ze kent die gewoonweg niet. Ze weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet per se geschikt voor uw bedrijf.

Dit is het governanceprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Al het bovenstaande gold toen AI alleen nog maar antwoordde. Zoals beschreven in artikel 1, handelt AI steeds vaker — en wanneer er een stille waardevervanging gepaard gaat met een handeling in plaats van met een zin, wordt het bestuursprobleem op drie specifieke manieren scherper. Bestuursdeskundigen die AI-agenten bestuderen, wijzen op dezelfde drie punten.

Sommige acties kunnen niet ongedaan worden gemaakt. Een verkeerd ingeschatte concepttekst kan worden gecorrigeerd voordat deze wordt verzonden — er is een moment tussen de output van de AI en het gevolg. Een agent die verzendt, archiveert, boekt, verwijdert of betaalt, neemt dat moment weg. De directeur in ons verhaal merkte de ongevoelige brief op omdat zij deze eerst las. Een agent die de brief namens haar naar die klant van vijftien jaar had gemaild, zou haar die kans niet hebben gegeven.

De verantwoordelijkheid vervaagt. Wanneer een agent namens jou handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Jij stelt een doel vast in een zin; het systeem koos de stappen; het bedrijf bouwde het systeem. Wetenschappers noemen de kloof die hier ontstaat een „verantwoordelijkheidskloof“ — en waarschuwen voor de „morele kreukzone“, waar de schuld bij de dichtstbijzijnde persoon terechtkomt, ook al had die persoon in werkelijkheid weinig controle. Voor een bedrijf dat verantwoording verschuldigd blijft aan klanten, personeel en toezichthouders, is het dragen van de schuld zonder controle geen hypothetisch risico.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar het traject dat een agent aflegt bij een taak met meerdere stappen is open-ended, en — zoals in artikel 1 opgemerkt — zelfs de eigen toelichting van de AI op haar redenering geeft niet op betrouwbare wijze weer wat de drijfveer achter haar handelingen was. Je kunt instemmen met een doel; je kunt echter niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. (Sommige ontwerpen proberen deze kloof te verkleinen door je een plan te tonen voordat er wordt gehandeld; dat helpt, maar het dicht de kloof niet.)

Niets van dit alles pleit tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk raadzaam was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een mens moet in staat blijven om in te grijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten bij mensen blijven liggen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het beleid niet begrijpt. Het begrijpt patronen.

Je kunt een model verfijnen – de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Verfijning voegt nieuwe patronen toe bovenop bestaande. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training verliest zijn effect.

Een beleid opstellen waarin staat: ‘Onze AI zal de waarden van onze organisatie respecteren’, is hetzelfde als een beleid opstellen waarin staat: ‘Onze rivier zal niet overstromen.’ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen — structurele maatregelen die werken ongeacht wat de rivier van plan is.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat tradities op het gebied van governance ons leren

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het is eeuwenoud.

De filosoof Ludwig Wittgenstein heeft zijn carrière gewijd aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de grenzen van een precieze uitdrukking ligt. Zijn conclusie – dat „waarover men niet kan spreken, daarover moet men zwijgen“ – is direct relevant voor AI-governance. Sommige vragen kunnen worden gesystematiseerd: „Wat is het saldo op rekening 4072?“ heeft een eenduidig antwoord dat een AI kan opzoeken. Andere vragen kunnen dat niet: „Hoe moeten we het prijsgesprek met deze specifieke klant aanpakken?“ heeft te maken met oordeelsvorming, context, relaties en waarden die zich niet lenen voor een systematische behandeling.

De grens tussen wat aan een machine kan worden gedelegeerd en wat bij de mens moet blijven, vormt de basis van degelijk AI-beheer. De fout is niet dat AI wordt ingezet voor het eerste soort vragen. De fout is dat AI het tweede soort vragen beantwoordt zonder menselijk toezicht.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — efficiëntie en grondigheid, groei en stabiliteit, individueel initiatief en collectieve coördinatie. Er bestaat geen formule die deze spanningen oplost. Ze vereisen voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat organisaties door jarenlange samenwerking ontwikkelen.

AI-systemen zijn er per definitie op gericht om te optimaliseren. Ze zoeken naar één enkel antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn, is er geen enkel antwoord – er is alleen het antwoord dat deze organisatie, op dit moment, met deze mensen, beoordeelt als de juiste balans. Dat oordeel is inherent menselijk, en elk AI-bestuurskader dat doet alsof dat niet zo is, bestuurt niet — het doet afstand van zijn verantwoordelijkheid.

De coöperatieve traditie heeft haar eigen versie van dit inzicht. Democratische zeggenschap door leden – één lid, één stem – is geen efficiëntiemaatregel. Het is de erkenning dat legitieme beslissingen de deelname vereisen van degenen die erdoor worden geraakt. Een coöperatie die dit soort bestuur al decennia lang in praktijk brengt, begrijpt tot in het diepst van haar wezen waarom AI niet kan worden toevertrouwd met beslissingen over waarden.

Hoe Village AI structureel bestuurt

Village vertrouwt er niet op dat de AI zich gedraagt zoals het hoort. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI waardenbeslissingen neemt — en dat hij op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op afwegingen op het gebied van privacy, ethische oordelen of relationele context, of wanneer een taak zou betekenen dat er namens je organisatie wordt gehandeld, stopt het systeem en wordt de vraag doorgestuurd naar een mens – je manager, je directeur, je raad van bestuur. De AI kan deze grens niet overschrijden, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen”: de mogelijkheid om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiepersistentiesysteem slaat de expliciete instructies van uw organisatie op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een antwoord genereert, wordt dit getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde antwoorden en acties aan de daadwerkelijke gegevens van uw organisatie. Het vraagt de AI niet of zijn antwoord correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd uitgelegd, kan de uitleg van een AI over zijn eigen redenering niet worden vertrouwd als weerspiegeling van wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw organisatie. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een dijk functioneert ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren ethische verklaringen over AI. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je bedrijf vertrouwt niet op de hoop dat de financieel medewerker de gelden correct beheert — het vereist dubbele autorisatie bij betalingen boven een bepaalde drempel. Dat is architectonisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — Transparant en open

De governance-architectuur achter Village AI wordt het Tractatus-raamwerk genoemd. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of de governance doet wat het belooft. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.

Het is transparant. Elk governancebesluit wordt geregistreerd. Wanneer de grenshandhaver de AI verhindert een waardenbeslissing te nemen, wordt die gebeurtenis vastgelegd. Wanneer de kruisverwijzingsvalidator een discrepantie opmerkt, wordt dit vastgelegd. Je managers kunnen precies zien wat het governancesysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is aanpasbaar. Het raamwerk is geen starre reeks regels die van buitenaf wordt opgelegd. Organisaties kunnen het bestuurssysteem zo vormgeven dat het hun eigen prioriteiten weerspiegelt. Een advocatenkantoor en een voedselcoöperatie hebben verschillende gevoeligheden, verschillende nalevingsvereisten en verschillende grenzen. Het Tractatus-raamwerk houdt hier rekening mee — niet door organisaties toe te staan het governance-systeem te verzwakken, maar door hen te laten bepalen wat het governance-systeem beschermt. De statuten van uw organisatie, uw bedrijfswaarden, uw nalevingsvereisten — structureel afgedwongen, niet alleen gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. U hoeft het niet te lezen om Village te gebruiken — het bestuur functioneert, of u het nu bekijkt of niet. Maar als u precies wilt begrijpen hoe uw AI wordt bestuurd, staat de deur open.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk daadwerkelijk doet — waarmee het uw bedrijf kan helpen, hoe vooringenomenheid wordt aangepakt via het vocabulaire-systeem, en wat er nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.