Alle edities · Leadership Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet volstaan — De uitdaging op het gebied van bestuur

De communicatie over ruimtelijke ordening

Voordat we ingaan op de bestuursfilosofie, beginnen we met een praktisch voorbeeld. (Alle onbekende termen in deze reeks worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een ambtenaar van de gemeente vraagt een AI-systeem om hulp bij het opstellen van een brief aan de bewoners over een voorgesteld bouwproject grenzend aan een beschermd natuurgebied. Ze is heel specifiek: ze wil afgewogen taal die de zorgen van de bewoners erkent, het planningskader uitlegt en duidelijk maakt dat de gemeente verplicht is om tegenstrijdige belangen op transparante wijze tegen elkaar af te wegen. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een goed gestructureerde brief. Deze is vloeiend, professioneel en zorgvuldig geformuleerd. Er wordt gesproken over „het managen van de verwachtingen van belanghebbenden“, „afstemming op strategische prioriteiten“, „het benutten van mogelijkheden voor maatschappelijke betrokkenheid“ en „het positioneren van het verhaal achter het bouwproject“. Het leest vakkundig. Het klinkt professioneel. En het is volkomen verkeerd.

De bewoners hebben geen behoefte aan het managen van hun verwachtingen. Ze moeten begrijpen wat hun gemeenteraad heeft besloten en waarom. Ze hebben geen verhaal nodig. Ze hebben een transparante toelichting nodig op de ruimtelijke ordeningsoverwegingen, de ontvangen opmerkingen en de redenering achter het besluit. De ambtenaar vroeg om maatschappelijke verantwoording, en de AI gaf haar zakelijk stakeholdermanagement — omdat de trainingsdata veel meer zakelijke communicatie bevatten dan maatschappelijke correspondentie.

De AI weigerde de instructie van de ambtenaar niet. Ze zei niet: „Ik begrijp maatschappelijke verantwoording niet.” Ze verving simpelweg wat de ambtenaar vroeg door wat statistisch gezien vaker voorkwam in haar trainingsdata. De vervanging gebeurde in stilte. Als de ambtenaar onder tijdsdruk had gestaan, minder ervaren was geweest of meer op de AI had vertrouwd dan ze zou moeten, had ze het misschien niet opgemerkt. De brief zou zijn verstuurd en de bewoners zouden een bericht hebben ontvangen waarin ze werden behandeld als belanghebbenden die moeten worden gemanaged, in plaats van als burgers die moeten worden gediend.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen waarden overschrijven

De communicatie over de ruimtelijke ordening is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk bij elke interactie met AI.

Wanneer een inwoner een AI-systeem om informatie vraagt over een lastige ruimtelijke ordeningskwestie, valt het systeem standaard terug op de taal van individuele consumentenrechten — escalatie van klachten, beroepsmogelijkheden bij toezichthouders, een vijandige benadering — omdat dat is wat de trainingsdata domineert. Het grijpt niet terug op de taal van het gemeenschapsbelang, collectief overleg en de langetermijnvisie die voortkomt uit het besef dat deze beslissing een wijk voor decennia zal vormgeven.

Wanneer een bestuurssecretaris de AI vraagt om te helpen bij het opstellen van notulen, valt het systeem standaard terug op de taal van bedrijfsbesturen — „het bestuur nam kennis van“, „er werd besloten“, „actiepunten werden toegewezen“ — omdat bedrijfsnotulen in de trainingsdata veel talrijker zijn dan notulen van gemeenschapsbesturen. De nuance van gemeenschapsberaadslaging — waarbij afwijkende meningen worden vastgelegd, waarbij een besluit met tegenzin werd genomen, waarbij de redenering even belangrijk is als het besluit zelf — wordt afgevlakt tot zakelijke efficiëntie.

De AI staat niet vijandig tegenover maatschappelijke waarden. Ze kent die waarden simpelweg niet diepgaand. Ze weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet wat het meest geschikt is voor organisaties die een zorgplicht hebben ten opzichte van hun gemeenschappen.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Al het bovenstaande gold toen AI alleen nog maar antwoordde. Zoals in artikel 1 uiteengezet, handelt AI in toenemende mate — en wanneer een stille vervanging van maatschappelijke plicht door commerciële patronen gepaard gaat met een daad in plaats van een ontwerp, wordt het bestuursprobleem op drie specifieke manieren scherper, die rechtstreeks aansluiten bij fiduciaire en regelgevende zorgen.

Sommige handelingen kunnen niet ongedaan worden gemaakt. Een verkeerd beoordeeld concept kan vóór de uitgifte worden gecorrigeerd — er is een tijdsinterval tussen de output van de AI en het gevolg. Een agent die iets verstuurt, indient, publiceert of verwerkt, neemt dat interval weg. De ambtenaar in ons voorbeeld heeft de bedrijfsbrief opgemerkt omdat zij deze eerst had gelezen. Een agent die de brief namens haar naar de inwoners had verstuurd, zou haar – en de gemeenteraad – die kans hebben ontnomen.

De verantwoordingsplicht vervaagt. Wanneer een agent namens de organisatie handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Een functionaris stelde de doelstelling vast; het systeem koos de stappen; de leverancier bouwde het systeem; het bestuur gaf toestemming voor het gebruik ervan. Wetenschappers beschrijven een „verantwoordelijkheidskloof“ en een „morele kreukzone“, waarin de aansprakelijkheid bij de dichtstbijzijnde persoon terechtkomt, ondanks beperkte controle. Voor een instantie met een zorgplicht is het overnemen van verantwoordelijkheid voor handelingen die niemand heeft goedgekeurd een falen in het bestuur, geen ongeluk.

Toezicht kan niet berusten op de zelfrapportage van het systeem. Zinvol menselijk toezicht — het principe dat centraal staat in de EU-AI-wet — vereist dat een persoon kan begrijpen en, waar nodig, kan stoppen wat het systeem doet. Maar het traject dat een agent doorloopt bij een taak met meerdere stappen is open-ended, en, zoals opgemerkt in artikel 1, geeft de eigen redenering van de AI geen betrouwbare weergave van wat de drijfveer achter haar handelingen was. Toezicht moet daarom structureel zijn — uitgeoefend op de handelingen en output van het systeem, en niet gedelegeerd aan de zelfrapportage ervan.

Dit alles pleit niet tegen AI die handelt. Het stelt juist dat de discipline die in het chatbot-tijdperk aan te raden was, in het agententijdperk vereist is: het gedrag van het systeem moet van buitenaf worden gecontroleerd, een verantwoordelijke mens moet kunnen ingrijpen, en ingrijpende, onomkeerbare beslissingen moeten blijven berusten bij degenen die de bevoegdheid hebben om ze te nemen. Dat is wat in de rest van dit artikel wordt beschreven.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Kaders voor verantwoorde AI. Referentiekaders voor AI-toezichtscommissies.

Deze documenten zijn niet zonder waarde, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleid voor aanvaardbaar gebruik niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het geen beleid verwerkt. Het verwerkt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Fijnafstemming voegt nieuwe patronen toe bovenop de bestaande. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term hiervoor is „catastrofaal vergeten“, maar de gewone taalversie is eenvoudiger: de training verliest zijn effect.

Een beleid opstellen waarin staat: „Onze AI zal de waarden van onze gemeenschap respecteren“, is hetzelfde als een beleid opstellen waarin staat: „Onze rivier zal niet buiten haar oevers treden.“ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen – structurele maatregelen die werken ongeacht wat de rivier doet.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

De EU-AI-wet erkent dit principe. De wet eist niet alleen dat AI-systemen „ethisch“ zijn — ze vereist ook technische documentatie, conformiteitsbeoordelingen, mechanismen voor menselijk toezicht en monitoring na het in de handel brengen. De opstellers van de wet begrepen dat ambitie zonder architectuur ontoereikend is. De vraag voor bestuursorganen is of hun eigen invoering van AI blijk geeft van hetzelfde inzicht.

Wat de bestuursleer ons leert

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het vormt de basis van de bestuursleer.

De filosoof Ludwig Wittgenstein heeft zijn carrière gewijd aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de grenzen van een precieze uitdrukking ligt. Zijn conclusie – dat „waarover men niet kan spreken, daarover moet men zwijgen“ – is rechtstreeks relevant voor AI-bestuur. Sommige vragen kunnen worden gesystematiseerd: „Wanneer is de volgende raadsvergadering?“ heeft een eenduidig antwoord dat een AI kan opzoeken. Andere vragen kunnen dat niet: „Hoe moeten we dit besluit aan de betrokken bewoners communiceren?“ heeft te maken met oordeelsvorming, context, relaties en waarden die zich niet lenen voor een systematische benadering.

De grens tussen wat aan een machine kan worden gedelegeerd en wat bij de mens moet blijven, vormt de basis van degelijk AI-beheer. De fout is niet dat AI wordt gebruikt voor het eerste soort vragen. De fout is dat AI het tweede soort vragen mag behandelen zonder menselijk toezicht.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en gelijkheid, traditie en vooruitgang, individuele rechten en collectief welzijn. Er bestaat geen formule die deze spanningen oplost. Ze vereisen voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat bestuursorganen ontwikkelen door jarenlange dienstbaarheid aan hun gemeenschappen.

AI-systemen zijn er per definitie op gericht om te optimaliseren. Ze zoeken naar het beste antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn, is er geen ‘beste’ antwoord – er is alleen het antwoord dat deze gemeenschap, op dit moment, onder deze omstandigheden, als het meest gepaste beschouwt. Dat oordeel is inherent menselijk, en elk AI-bestuurskader dat iets anders veronderstelt, bestuurt niet — het doet afstand van zijn verantwoordelijkheid.

Het werk van Elinor Ostrom over het beheer van de commons is bijzonder leerzaam. Ostrom toonde aan dat gemeenschappen gedeelde hulpbronnen succesvol kunnen beheren zonder privatisering of centrale controle — maar alleen wanneer de bestuursstructuren aansluiten bij de complexiteit van de hulpbron die wordt beheerd. AI is een gedeelde hulpbron binnen elke organisatie die er gebruik van maakt. De vraag is of de bestuursstructuren aansluiten bij de complexiteit van het instrument.

Hoe Village AI structureel beheert

Village vertrouwt er niet op dat de AI zich gedraagt zoals het hoort. Het bouwt beheer in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI beslissingen neemt over waarden — en dat hij autonoom ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op afwegingen op het gebied van privacy, ethische oordelen of culturele context, of wanneer een taak zou leiden tot handelen namens de organisatie, stopt het systeem en wordt de vraag doorgestuurd naar een mens — je moderator, je voorzitter, je raad van bestuur. De AI kan deze grens niet overschrijden, omdat de grens buiten de controle van de AI om functioneert. Dit is de structurele invulling van de eis van menselijk toezicht in de EU-AI-wet: het interventiepunt is ingebouwd, niet aan het toeval overgelaten.

Het instructiebehoudsysteem slaat de expliciete instructies van uw organisatie op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een antwoord genereert, wordt dit getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde outputs en acties aan de daadwerkelijke gegevens van uw organisatie. Het vraagt de AI niet of zijn antwoord correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd opgemerkt, kan men er niet op vertrouwen dat de uitleg van een AI over zijn eigen redenering weergeeft wat daadwerkelijk ten grondslag lag aan het antwoord. De validator negeert daarom de zelfrapportage van het systeem. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw gemeenschap. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de patronen van de AI hiermee in overeenstemming zijn, net zoals een dijk functioneert ongeacht of de rivier meewerkt.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren verklaringen over AI-ethiek. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk omdat een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je vertrouwen berust niet op de hoop dat de penningmeester de gelden correct zal beheren — het vereist dubbele ondertekening en een onafhankelijke audit. Dat is architecturale governance. Hetzelfde principe geldt voor AI.

Voor bestuursorganen sluit dit onderscheid direct aan bij wettelijke vereisten. De EU-AI-wet accepteert niet dat een aanbieder goede bedoelingen heeft — zij vereist aantoonbare technische waarborgen, logboekregistratie en mechanismen voor menselijk toezicht. Een organisatie die architectonisch bestuur van haar AI kan aantonen, bevindt zich in een wezenlijk andere nalevingspositie dan een organisatie die alleen naar een beleidsdocument kan verwijzen.

Het Tractatus-raamwerk — Transparant en open

De governancearchitectuur achter Village AI wordt het Tractatus-raamwerk genoemd. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of het beheer doet wat het beweert te doen. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering niet openbaar wordt gemaakt. Wanneer een grote AI-aanbieder je vertelt dat hun systeem „in lijn is met menselijke waarden“, kun je die bewering op geen enkele manier verifiëren. Bij Tractatus kun je elke regel lezen.

Het is transparant. Elk governancebesluit wordt geregistreerd. Wanneer de ‘boundary enforcer’ voorkomt dat de AI een beslissing neemt op basis van waarden, wordt die gebeurtenis vastgelegd. Wanneer de ‘cross-reference validator’ een discrepantie identificeert, wordt dit vastgelegd. Je moderators en beheerders kunnen precies zien wat het bestuurssysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording. Voor organisaties die onderworpen zijn aan verplichtingen inzake openbaarheid van bestuur of vereisten voor publieke verantwoording, is deze controleerbaarheid direct relevant.

Het is aanpasbaar. Het raamwerk is geen rigide set regels die van buitenaf wordt opgelegd. Organisaties kunnen het bestuurskader vormgeven zodat het hun eigen prioriteiten weerspiegelt. Een gemeenteraad en een gemeenschapsstichting hebben verschillende verplichtingen, verschillende gevoeligheden en verschillende grenzen. Het Tractatus-kader houdt hier rekening mee — niet door organisaties toe te staan het bestuurskader te verzwakken, maar door hen te laten bepalen wat het bestuurskader beschermt. De statuten van uw organisatie, uw waardenkader, uw operationele grenzen — structureel afgedwongen, niet louter gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. Je hoeft het niet te lezen om Village te gebruiken — het bestuur functioneert, of je het nu bekijkt of niet. Maar als je precies wilt begrijpen hoe je AI wordt bestuurd, of als je naleving moet aantonen aan een toezichthoudende instantie, staat de deur open.

In het volgende artikel bekijken we wat Village AI vandaag de dag in de praktijk precies doet — waarmee het uw organisatie kan helpen, hoe vooringenomenheid via het vocabulaire-systeem wordt aangepakt, en wat er nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.