Alle edities · Family Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging van goed bestuur

Het eerbetoon

Voordat we ingaan op de filosofie achter goed bestuur, beginnen we met een verhaal over een eerbetoon. (Alle onbekende termen in deze serie worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een oudere familielid vraagt een AI-systeem om hulp bij het schrijven van een eerbetoon voor de herdenking van haar vader. Ze is heel specifiek: ze wil dat het weergeeft wie hij werkelijk was — de rustige man die ieders fiets repareerde, die vals zong in de auto, die een tuin onderhield die de helft van de straat van groenten voorzag. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een prachtig geschreven eerbetoon. Het is warm, professioneel en medelevend. Er wordt gesproken over „het vieren van een goed geleefd leven“, „afsluiting vinden“, „zijn nalatenschap eren“ en „de herinneringen die je kracht zullen geven“. Het leest goed. Het klinkt zorgzaam. En het is volkomen verkeerd.

De familie heeft geen behoefte aan algemene troost. Ze hebben hun vader nodig — de echte man, geen sjabloon. Ze hoeven ‘een goed geleefd leven te vieren’ niet in woorden die op iedereen van toepassing zouden kunnen zijn. Ze willen horen over de fietspomp en het vals zingen en de tomaten die hij elke zomer zonder uitzondering kweekte. De oudste vroeg om iets persoonlijks, en de AI gaf haar iets algemeen – omdat de trainingsdata duizend sjabloon-grafredenen bevatten voor elke grafrede die een echt persoon weergeeft.

De AI wees haar verzoek niet af. Hij zei niet: ‘Ik ken je vader niet.’ Hij verving simpelweg wat zij vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging gebeurde in stilte. Als ze moe was geweest, of haast had gehad, of minder oplettend dan normaal, had ze het misschien niet eens opgemerkt. De herdenkingsrede zou tijdens de herdenking zijn voorgelezen, en de familie zou woorden over hun vader hebben gehoord die over iedereen hadden kunnen gaan — professioneel geformuleerd, oprecht bedoeld, en zonder alles wat er echt toe deed.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen voorrang krijgen boven wat ertoe doet

Het eerbetoon bij de herdenking is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk in elk AI-gesprek.

Wanneer een familielid een AI-systeem om advies vraagt over de zorg voor een bejaarde ouder, grijpt het systeem standaard terug op de taal van professionele zorgdiensten — behoefteanalyses, zorgplannen, respijtzorgopties — omdat dat is wat de trainingsdata domineert. Het grijpt niet terug op de taal van gezinsplichten, van om de beurt zorgen, van het stille begrip tussen broers en zussen die weten dat ze de komende decennia met Kerstmis samen aan tafel zullen zitten.

Wanneer iemand de AI vraagt om te helpen bij het opstellen van een bericht over een gevoelige familiekwestie — een meningsverschil over een erfenis, een moeilijk gesprek over de gezondheid van een familielid — valt het systeem standaard terug op zakelijke communicatiepatronen, omdat zakelijke correspondentie in de trainingsdata veel vaker voorkomt dan familiecorrespondentie.

De AI staat niet vijandig tegenover de waarden van jouw familie. Het kent de waarden van je familie simpelweg niet. Het weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet wat voor jouw familie belangrijk is.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Al het bovenstaande gold toen AI alleen nog maar antwoordde. Zoals beschreven in artikel 1, handelt AI steeds vaker — en wanneer een stille waardevervanging gekoppeld is aan een handeling in plaats van aan een zin, wordt het bestuursprobleem op drie specifieke manieren scherper. De experts die AI-agenten bestuderen, wijzen op dezelfde drie.

Sommige acties kunnen niet ongedaan worden gemaakt. Een verkeerd beoordeeld concept kan worden gecorrigeerd voordat het wordt verzonden — er is een moment tussen de output van de AI en het gevolg. Een agent die verzendt, plaatst, boekt, verwijdert of archiveert, neemt dat moment weg. De oudste van de familie in ons verhaal ontdekte het algemene eerbetoon omdat zij het als eerste las. Een agent die het namens haar naar de hele familie had verspreid, zou haar die kans niet hebben gegeven.

De verantwoordelijkheid vervaagt. Wanneer een agent namens jou handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Jij stelt een doel vast in een zin; het systeem koos de stappen; het bedrijf bouwde het systeem. Wetenschappers noemen de kloof die hier ontstaat een „verantwoordelijkheidskloof“ — en waarschuwen voor de „morele kreukzone“, waar de schuld bij de dichtstbijzijnde persoon terechtkomt, ook al had die persoon in werkelijkheid weinig controle. Een familie die een externe agent in haar naam laat handelen, erft de schuld zonder de controle.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waarmee je instemt. Maar de weg die een agent aflegt bij een taak met meerdere stappen is open-ended, en — zoals in artikel 1 werd opgemerkt — zelfs de eigen toelichting van de AI op haar redenering geeft niet op betrouwbare wijze weer wat de drijfveer achter haar handelingen was. Je kunt instemmen met een doel; je kunt niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. (Sommige ontwerpen proberen deze kloof te verkleinen door je een plan te tonen voordat er wordt gehandeld; dat helpt, maar het dicht de kloof niet.)

Niets van dit alles pleit tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk raadzaam was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een persoon moet kunnen ingrijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten bij mensen blijven liggen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je regels niet en besluit niet om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je regels, winnen de patronen — niet omdat de AI opstandig is, maar omdat het geen regels begrijpt. Het begrijpt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Verfijning voegt nieuwe patronen toe bovenop bestaande patronen. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training verliest zijn effect.

Een regel opstellen die zegt: ‘Onze AI zal de waarden van ons gezin respecteren’, is hetzelfde als een regel opstellen die zegt: ‘Onze rivier zal niet buiten haar oevers treden.’ De rivier leest geen regels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen — structurele maatregelen die werken, ongeacht wat de rivier doet.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat oude wijsheid ons leert

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het is eeuwenoud.

De filosoof Ludwig Wittgenstein heeft zijn carrière gewijd aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de precieze uitdrukking valt. Zijn conclusie – dat „waarover men niet kan spreken, daarover moet men zwijgen“ – is direct relevant voor AI-governance. Sommige vragen kunnen door een machine worden beantwoord: „Hoe laat begint de familiereünie?“ heeft een eenduidig antwoord dat een AI kan opzoeken. Andere vragen niet: „Hoe moet ik mijn zus aanspreken over de zorg voor mama?“ heeft te maken met oordeelsvorming, context, relaties en waarden die zich niet lenen voor een systematische aanpak.

De grens tussen wat aan een machine kan worden gedelegeerd en wat bij mensen moet blijven, vormt de basis van degelijk AI-beheer. De fout is niet dat AI wordt gebruikt voor het eerste soort vragen. De fout is dat AI het tweede soort vragen mag beantwoorden zonder dat een mens ingrijpt.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en rechtvaardigheid, traditie en verandering, individuele wensen en gezinsharmonie. Er bestaat geen formule die deze spanningen kan oplossen. Ze vereisen voortdurend menselijk oordeel, dialoog en het soort praktische wijsheid dat gezinnen door de generaties heen ontwikkelen.

AI-systemen zijn er per definitie op gericht om te optimaliseren. Ze zoeken naar één enkel antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn, is er geen eenduidig antwoord – er is alleen het antwoord dat deze familie, op dit moment, met deze mensen, als het minst slechte beschouwt. Dat oordeel is inherent menselijk, en elke benadering van AI-beheer die doet alsof dat niet zo is, is geen beheer — het is afstand doen van verantwoordelijkheid.

Gezinnen hebben dit altijd al geweten. De beslissing of oma dichterbij moet komen wonen of in haar eigen huis moet blijven, is geen probleem dat geoptimaliseerd moet worden. Het is een spanning die moet worden gedragen, besproken en waarmee moet worden geleefd. Gezinnen die al generaties lang met dit soort beslissingen omgaan, begrijpen al in hun botten waarom AI niet kan worden toevertrouwd met beslissingen over waarden.

Hoe Village AI structureel bestuurt

Village vertrouwt er niet op dat de AI wordt verteld hoe hij zich moet gedragen. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI waardenbeslissingen neemt — en dat ze op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op privacy, ethische afwegingen of de familiecontext, of wanneer een taak zou inhouden dat er namens je familie wordt gehandeld, stopt het systeem en wordt de vraag doorgestuurd naar een persoon — je familiecoördinator, je familieoudste, de familie als geheel. De AI kan deze grens niet omzeilen, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen“: de mogelijkheid om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiepersistentiesysteem slaat de expliciete instructies van je familie op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een antwoord genereert, wordt dit getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde antwoorden en acties aan de daadwerkelijke gegevens van je familie. Het vraagt de AI niet of zijn antwoord correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd uitgelegd, kan men er niet op vertrouwen dat de uitleg van een AI over zijn eigen redenering weergeeft wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke gegevens van uw gezin. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op moeilijke bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een dijk functioneert ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren ethische verklaringen over AI. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je gezin vertrouwt niet op de hoop dat degene die de touwtjes in handen heeft eerlijk zal zijn — je bespreekt het, je komt tot overeenstemming, je maakt het duidelijk. Dat is praktisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — Transparant en open

De bestuursarchitectuur achter Village AI heet het Tractatus-raamwerk. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of het bestuur doet wat het belooft. Dit staat haaks op het AI-bestuur van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Bij Tractatus kun je elke regel lezen.

Het is transparant. Elke governancebeslissing wordt geregistreerd. Wanneer de grenshandhaver de AI ervan weerhoudt een waardenbeslissing te nemen, wordt die gebeurtenis vastgelegd. Wanneer de kruisverwijzingsvalidator een discrepantie opmerkt, wordt dit vastgelegd. Je familiecoördinatoren kunnen precies zien wat het governancesysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is aanpasbaar. Het raamwerk is geen rigide set regels die van buitenaf wordt opgelegd. Gezinnen kunnen het bestuurssysteem vormgeven zodat het hun eigen prioriteiten weerspiegelt. Een gezin dat het Samoaanse erfgoed in stand houdt en een gezin dat de oorlogservaringen van hun grootouders vastlegt, hebben verschillende waarden, verschillende gevoeligheden en verschillende grenzen. Het Tractatus-raamwerk houdt hier rekening mee — niet door families het beheer te laten afzwakken, maar door hen te laten bepalen wat het beheer beschermt. De waarden van je familie, de grenzen van je familie, de manier waarop je familie dingen aanpakt — structureel afgedwongen, niet alleen gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. U hoeft het niet te lezen om Village te gebruiken — het beheer werkt, of u het nu bekijkt of niet. Maar als u precies wilt begrijpen hoe uw AI wordt beheerd, staat de deur open.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk daadwerkelijk doet — waarmee het je gezin kan helpen, hoe vooringenomenheid wordt aangepakt via het vocabulaire-systeem, en wat er nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.