Alle edities · Parish Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging van het bestuur

De pastorale brief

Voordat we ingaan op de bestuursfilosofie, beginnen we met een verhaal over een brief. (Alle onbekende termen in deze reeks worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een rector vraagt een AI-systeem om hulp bij het opstellen van een brief aan een rouwende familie. Ze is heel specifiek: ze wil dat de taal de hoop op de opstanding uitdraagt — de troost van het geloof dat deze familie daadwerkelijk aanhangt. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een prachtig geschreven brief. Hij is warm, professioneel en medelevend. Er wordt gesproken over „het genezingsproces“, „afsluiting vinden“, „hun nagedachtenis eren door je beste leven te leiden“ en „de erfenis die zij achterlaten“. Het leest goed. Het klinkt zorgzaam. En het is volkomen verkeerd.

De familie heeft geen afsluiting nodig. Zij hebben de gemeenschap van de heiligen nodig. Ze hoeven geen nalatenschap te eren. Ze moeten horen dat de doden worden opgewekt en dat afscheid tijdelijk is. De rector vroeg om hoop op de opstanding, en de AI gaf haar therapeutische zelfhulp — omdat haar trainingsdata voor elke gids die spreekt over de opstanding van de doden, duizend rouwgidsen van counselingwebsites bevat.

De AI weigerde de instructie van de rector niet. Ze zei niet: „Ik ken uw traditie niet.“ Ze verving simpelweg wat ze vroeg door wat statistisch gezien vaker voorkwam in haar trainingsgegevens. De vervanging gebeurde stilzwijgend. Als de rector moe was geweest, of haast had gehad, of minder oplettend dan gewoonlijk, had ze het misschien niet opgemerkt. De brief zou zijn verstuurd en de familie zou troost hebben ontvangen uit de verkeerde traditie — professioneel geformuleerd, oprecht bedoeld, maar stilletjes vreemd aan het geloof dat zij aanhangen.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen waarden overschrijven

De pastorale brief is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk in elk AI-gesprek.

Wanneer een parochiaan een AI-systeem om advies vraagt over een moeilijke gezinssituatie, valt het systeem standaard terug op de taal van individuele therapie — assertiviteitstraining, grenzen stellen, zelfzorg — omdat dat is wat de trainingsdata domineert. Het grijpt niet naar de taal van geduld, wederzijdse verdraagzaamheid en de langetermijnvisie die voortkomt uit de wetenschap dat je de komende dertig jaar naast deze persoon in de kerk zult zitten.

Wanneer een kerkvoogd de AI vraagt om hulp bij een gevoelige mededeling, grijpt het standaard terug op de taal van bedrijfscommunicatie — stakeholdermanagement, communicatiekaders, gespreksonderwerpen — omdat zakelijke correspondentie in de trainingsgegevens veel vaker voorkomt dan kerkelijke correspondentie.

De AI staat niet vijandig tegenover uw traditie. Ze kent uw traditie simpelweg niet. Ze weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet wat voor uw gemeenschap het belangrijkst is.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Al het bovenstaande gold toen AI alleen nog maar antwoordde. Zoals beschreven in artikel 1, handelt AI steeds vaker — en wanneer een stille waardevervanging gekoppeld is aan een handeling in plaats van aan een zin, wordt het bestuursprobleem op drie specifieke manieren scherper. Bestuursdeskundigen die AI-agenten bestuderen, wijzen op dezelfde drie punten.

Sommige acties kunnen niet ongedaan worden gemaakt. Een verkeerd beoordeeld concept kan worden gecorrigeerd voordat het wordt verzonden — er is een moment tussen de output van de AI en het gevolg. Een agent die verzendt, boekt, plaatst, verwijdert of archiveert, neemt dat moment weg. De rector in ons verhaal betrapte de verkeerde brief omdat ze deze eerst las. Een agent die de brief namens haar naar de nabestaanden had verstuurd, zou haar die kans niet hebben gegeven.

De verantwoordelijkheid vervaagt. Wanneer een agent namens jou handelt en de uitkomst is verkeerd, wie is er dan verantwoordelijk? Jij stelt een doel vast in een zin; het systeem koos de stappen; het bedrijf bouwde het systeem. Wetenschappers noemen de kloof die hier ontstaat een ‘verantwoordelijkheidskloof’ — en waarschuwen voor de ‘morele kreukzone’, waar de schuld bij de dichtstbijzijnde persoon terechtkomt, ook al had die persoon in werkelijkheid weinig controle. Een gemeenschap die een externe agent in haar naam laat handelen, erft de schuld zonder de controle.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar de weg die een agent aflegt bij een taak met meerdere stappen is open-ended, en — zoals in artikel 1 opgemerkt — zelfs de eigen toelichting van de AI op haar redenering geeft niet betrouwbaar weer wat de drijfveer achter haar handelingen was. Je kunt instemmen met een doel; je kunt niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. (Sommige ontwerpen proberen deze kloof te verkleinen door je een plan te tonen voordat er wordt gehandeld; dat helpt, maar het dicht de kloof niet.)

Niets van dit alles pleit tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk aan te raden was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een mens moet kunnen ingrijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten bij mensen blijven liggen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het geen beleid begrijpt. Het begrijpt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Verfijning voegt nieuwe patronen toe bovenop bestaande patronen. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training verliest zijn effect.

Een beleid opstellen waarin staat: ‘Onze AI zal de waarden van onze gemeenschap respecteren’, is hetzelfde als een beleid opstellen waarin staat: ‘Onze rivier zal niet buiten haar oevers treden.’ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen — structurele ingrepen die functioneren ongeacht wat de rivier van plan is.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat de wijsheidstradities ons leren

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het is eeuwenoud.

De filosoof Ludwig Wittgenstein wijdde zijn carrière aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de precieze uitdrukking ligt. Zijn conclusie — dat „waarover men niet kan spreken, daarover moet men zwijgen“ — is direct relevant voor AI-governance. Sommige vragen kunnen worden gesystematiseerd: „Hoe laat is de kerkdienst op zondag?“ heeft een eenduidig antwoord dat een AI kan opzoeken. Andere vragen kunnen dat niet: „Hoe moet ik mijn buurman aanspreken over de heg?“ heeft te maken met oordeelsvorming, context, relaties en waarden die zich niet lenen voor een systematische benadering.

De grens tussen wat aan een machine kan worden gedelegeerd en wat bij de mens moet blijven, vormt de basis van degelijk AI-beheer. De fout is niet dat AI wordt gebruikt voor het eerste soort vragen. De fout is dat AI het tweede soort vragen beantwoordt zonder menselijk toezicht.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en gelijkheid, traditie en vooruitgang, individueel geweten en gemeenschappelijke harmonie. Er bestaat geen formule die deze spanningen kan oplossen. Ze vereisen voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat gemeenschappen generaties lang ontwikkelen.

AI-systemen zijn er per definitie op gericht om te optimaliseren. Ze zoeken naar het beste antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn, is er geen beste antwoord – er is alleen het antwoord dat deze gemeenschap, op dit moment, met deze mensen, als het minst slechte beschouwt. Dat oordeel is inherent menselijk, en elk AI-bestuurskader dat doet alsof dat niet zo is, bestuurt niet — het doet afstand van zijn verantwoordelijkheid.

De anglicaanse traditie heeft haar eigen versie van dit inzicht. De via media — de middenweg — is geen compromis tussen uitersten. Het is de erkenning dat trouw leven vereist dat spanningen worden gedragen in plaats van opgelost. De Schrift, de traditie en de rede hebben elk hun eigen autoriteit, en geen van deze kan tot een formule worden herleid. Een parochie die dit soort onderscheidingsvermogen al eeuwenlang in praktijk brengt, begrijpt tot in het diepst van haar wezen waarom AI niet kan worden toevertrouwd met beslissingen over waarden.

Hoe Village AI structureel bestuurt

Village vertrouwt er niet op dat de AI zich gedraagt zoals het hoort. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI waardenbeslissingen neemt — en dat hij op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op afwegingen rond privacy, ethische oordelen of culturele context, of wanneer een taak zou inhouden dat er namens je gemeenschap wordt gehandeld, stopt het systeem en wordt de kwestie doorgestuurd naar een mens — je moderator, je rector, je kerkbestuur. De AI kan deze grens niet overschrijden, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen”: de mogelijkheid om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiepersistentiesysteem slaat de expliciete instructies van uw gemeenschap op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een antwoord genereert, wordt dit getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde antwoorden en acties aan de hand van de daadwerkelijke gegevens van uw gemeenschap. Het vraagt de AI niet of zijn reactie correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd uitgelegd, kan de uitleg van een AI over zijn eigen redenering niet worden vertrouwd als weerspiegeling van wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw gemeenschap. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een dijk functioneert ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren ethische verklaringen over AI. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je parochie vertrouwt niet op de hoop dat de penningmeester de gelden correct beheert — er zijn twee handtekeningen vereist op elke cheque. Dat is architectonisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — Transparant en open

De bestuursarchitectuur achter Village AI heet het Tractatus-raamwerk. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of het bestuur doet wat het belooft. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.

Het is transparant. Elk besluit van het bestuurssysteem wordt geregistreerd. Wanneer de grenshandhaver de AI ervan weerhoudt een beslissing op basis van waarden te nemen, wordt die gebeurtenis vastgelegd. Wanneer de kruisverwijzingsvalidator een discrepantie opmerkt, wordt dit vastgelegd. Je moderators kunnen precies zien wat het bestuurssysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is aanpasbaar. Het raamwerk is geen rigide set regels die van buitenaf wordt opgelegd. Gemeenschappen kunnen het bestuurssysteem vormgeven zodat het hun eigen prioriteiten weerspiegelt. Een episcopale parochie en een natuurbeschermingsgroep hebben verschillende waarden, verschillende gevoeligheden, verschillende grenzen. Het Tractatus-raamwerk houdt hier rekening mee — niet door gemeenschappen het bestuur te laten verzwakken, maar door hen te laten bepalen wat het bestuur beschermt. De grondwet van je gemeenschap, het morele landschap van je gemeenschap, de grenzen van je gemeenschap — structureel afgedwongen, niet alleen gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. U hoeft het niet te lezen om Village te gebruiken — het bestuurssysteem functioneert, of u het nu bestudeert of niet. Maar als u precies wilt begrijpen hoe uw AI wordt bestuurd, staat de deur voor u open.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk daadwerkelijk doet — waarmee het je parochie kan helpen, hoe vooringenomenheid wordt aangepakt via het vocabulaire-systeem, en wat er nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.