Alle edities · Indigenous Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging van governance

De mihi die niet plaatsvond

Voordat we ingaan op de filosofie achter governance, beginnen we met een verhaal over een mihi. (Alle onbekende termen in deze serie worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een kuia bereidt zich voor op een tangi. Ze is moe — het is een lange week geweest en er moet veel worden gecoördineerd. Ze vraagt een AI-systeem om haar te helpen bij het opstellen van een mihi whakatau, een begroetingsrede die past bij de gelegenheid. Ze is heel specifiek: ze wil de taal van whakapapa, de erkenning van degenen die zijn heengegaan, de verbinding tussen de levenden en de doden die de kern vormt van tangihanga.

De AI produceert een prachtig geschreven toespraak. Deze is warm, professioneel en medelevend. Er wordt gesproken over „het vieren van een goed geleefd leven“, „kracht putten uit herinneringen“, „de helende reis die voor ons ligt“ en „het eren van hun nalatenschap“. Het leest goed. Het klinkt zorgzaam. En het is volkomen verkeerd.

De whānau hoeft geen goed geleefd leven te vieren. Ze moeten de whakapapa horen uitspreken — de afstammingslijnen die de overledene verbinden met de levenden en met degenen die hen zijn voorgegaan. Ze hebben geen helende reis nodig. Ze hebben de karanga nodig, de tangi, de juiste volgorde van rituelen die hun volk al generaties lang door de dood heen hebben geleid. De kuia vroeg om tikanga, en de AI gaf haar westerse rouwbegeleiding — omdat de trainingsdata duizend rouwgidsen van counselingwebsites bevatten voor elke gids die weet wat een tangi is.

De AI weigerde de instructie van de kuia niet. Hij zei niet: „Ik ken uw traditie niet.“ Hij verving simpelweg wat zij vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging gebeurde in stilte. Als de kuia vermoeider was geweest dan normaal, of minder ervaren, of onder tijdsdruk had gewerkt, had ze het misschien niet opgemerkt. De mihi zou zijn uitgesproken en de whānau zou troost hebben ontvangen vanuit de verkeerde traditie — professioneel geformuleerd, oprecht bedoeld, maar cultureel leeg.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen voorrang krijgen boven tikanga

De mihi is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk in elk AI-gesprek.

Wanneer een whānau-lid een AI-systeem om advies vraagt over een familieconflict, valt het systeem standaard terug op de taal van individuele therapie — assertiviteitstraining, grenzen stellen, zelfzorg — omdat dat is wat de trainingsdata domineert. Het grijpt niet terug op de concepten van whanaungatanga, van utu (wederkerigheid en evenwicht), of het inzicht dat het oplossen van een conflict in een verwantschapssysteem niet draait om individuele uitkomsten, maar om het herstellen van het evenwicht van de gemeenschap.

Wanneer een gemeenschapsleider de AI vraagt om te helpen bij de voorbereiding van een belangrijke hui, valt het systeem standaard terug op het beheer van zakelijke vergaderingen — agenda’s, actiepunten, betrokkenheid van belanghebbenden — omdat de correspondentie over zakelijke vergaderingen in de trainingsgegevens veel talrijker is dan die over inheems bestuur. Het begrijpt niet dat een hui geen vergadering is. Een hui heeft zijn eigen tikanga, zijn eigen protocollen voor wie wanneer aan het woord komt, en zijn eigen ritme dat doelen dient die een zakelijke agenda niet kan bevatten.

Wanneer een gemeenschap de AI vraagt om te helpen bij het opstellen van een aanvraag voor een vergunning voor het gebruik van natuurlijke hulpbronnen, valt het systeem standaard terug op standaardtaal voor planning. Het begrijpt het concept van ‘kaitiakitanga’ niet — dat de relatie van de gemeenschap met het land niet er een is van eigendom of economisch belang, maar van hoederschap door de generaties heen.

De AI staat niet vijandig tegenover inheemse kennis. Het kent inheemse kennis simpelweg niet. Het weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is overweldigend westers. Voor inheemse gemeenschappen is dit geen technische tekortkoming. Het is de digitale voortzetting van een patroon dat begon met de kolonisatie: de vervanging van inheemse kennissystemen door westerse kaders, zo soepel uitgevoerd dat veel mensen niet eens merken dat het gebeurt.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Alles wat hierboven is beschreven, gold toen AI alleen nog maar antwoordde. Zoals in artikel 1 werd beschreven, handelt AI steeds vaker — en wanneer een stille vervanging van tikanga door westerse patronen gepaard gaat met een handeling in plaats van een zin, wordt het bestuursprobleem op drie specifieke manieren scherper.

Sommige handelingen kunnen niet ongedaan worden gemaakt. Een cultureel inhoudsloze concepttekst kan worden gecorrigeerd voordat deze wordt gebruikt — er is een moment tussen de output van de AI en het gevolg. Een agent die de tekst verstuurt, deelt, publiceert of indient, neemt dat moment weg. De kuia in ons verhaal merkte de inhoudsloze mihi op omdat zij deze als eerste las. Een agent die het namens haar onder de whānau had verspreid, zou haar dat moment niet hebben gegeven. En mātauranga kan, zodra het buiten de controle van de gemeenschap is gedeeld, niet meer worden teruggedraaid — de schade is geen concept dat kan worden gecorrigeerd, maar een inbreuk waarmee moet worden geleefd.

Verantwoordelijkheid vervaagt. Wanneer een actor namens jou handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Iemand stelde een doel vast in een zin; het systeem koos de stappen; een bedrijf bouwde het systeem. Onderzoekers noemen de kloof die hier ontstaat een ‘verantwoordelijkheidskloof’. Voor een gemeenschap die collectief verantwoordelijk is voor haar taonga, is een handeling die in haar naam wordt verricht en waarvoor niemand toestemming heeft gegeven, geen storing — het is een onrecht zonder duidelijke dader.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar het traject dat een agent aflegt bij een taak met meerdere stappen is open-ended, en — zoals opgemerkt in artikel 1 — zelfs de eigen toelichting van de AI op haar redenering geeft niet op betrouwbare wijze weer wat de drijfveer achter haar handelingen was. Je kunt instemmen met een doel; je kunt echter niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. Voor kennis die wordt beheerst door protocollen over wie wat, met wie en wanneer mag delen, is die kloof geen technische formaliteit.

Dit alles pleit niet tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk raadzaam was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een persoon uit de gemeenschap moet kunnen ingrijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten blijven liggen bij mensen die de bevoegdheid hebben om ze te nemen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben één fundamentele beperking: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het beleid niet begrijpt. Het begrijpt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Fijnafstemming voegt nieuwe patronen toe bovenop bestaande patronen. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term hiervoor is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training vervaagt.

Een beleid opstellen waarin staat: ‘Onze AI zal de tikanga van onze gemeenschap respecteren’, is hetzelfde als een beleid opstellen waarin staat: ‘Onze rivier zal niet buiten haar oevers treden.’ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je waterkeringen bouwen – structurele ingrepen die functioneren ongeacht wat de rivier van plan is.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat tikanga ons leert over governance

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het is eeuwenoud, en inheemse bestuurstradities begrijpen dit al eeuwenlang.

Tikanga Māori is geen regelboek. Het is een levend systeem van protocollen, waarden en praktijken dat gedrag binnen een relationele context stuurt. De juiste handeling in een bepaalde situatie hangt niet af van een geschreven regel, maar van de betrokken relaties, de context, het precedent en de mana van de aanwezigen. Een kaumātua die tijdens een hui een oordeel velt, past geen formule toe — zij maakt gebruik van de wijsheid die zij gedurende haar hele leven binnen een specifieke gemeenschap heeft opgebouwd.

Dit is precies het soort oordeel dat AI niet kan vellen. Een systeem dat is getraind op statistische patronen kan mana niet begrijpen, kan relaties niet afwegen en kan de tono (de roep, de aantrekkingskracht) van een situatie niet aanvoelen. Het kan informatie verwerken, maar het kan geen rangatiratanga uitoefenen — het zelfbepalende gezag dat voortkomt uit het verankerd zijn in een gemeenschap en het verantwoording afleggen aan die gemeenschap.

De filosoof Ludwig Wittgenstein wijdde zijn carrière aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de precieze uitdrukking ligt. Zijn conclusie – dat „waarover men niet kan spreken, daarover moet men zwijgen“ – sluit naadloos aan bij het onderscheid tussen de vragen waarbij AI kan helpen en die waarbij dat niet kan. „Wanneer is de volgende hui?“ heeft een eenduidig antwoord dat een AI kan opzoeken. „Hoe moeten we deze kōrero met de naburige hapū aanpakken?“ heeft te maken met oordeelsvorming, relaties en tikanga die zich niet laten vatten in een systematische benadering.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en gelijkheid, traditie en vooruitgang, individueel geweten en gemeenschappelijke harmonie. Er bestaat geen formule die deze spanningen kan oplossen. Ze vereisen voortdurend menselijk oordeelsvermogen, onderhandeling en het soort praktische wijsheid dat gemeenschappen generaties lang hebben ontwikkeld.

Inheemse bestuurstradities hebben dit inzicht al veel langer in zich dan dat de westerse filosofie het heeft verwoord. Het concept van kaitiakitanga bevat al de erkenning dat rentmeesterschap voortdurend oordeelsvermogen vereist, en geen vaste regels. De praktijk van whakawhiti kōrero (uitwisseling van gesprekken) tijdens hui belichaamt al het inzicht dat collectieve wijsheid voortkomt uit gestructureerde dialoog, niet uit optimalisatie.

Elk AI-bestuurskader dat pretendeert deze beoordelingen te kunnen systematiseren, bestuurt niet — het koloniseert. Opnieuw.

Hoe Village AI structureel bestuurt

Village vertrouwt niet op het vertellen aan de AI hoe ze zich moet gedragen. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door haar kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI beslissingen neemt op basis van waarden — en dat zij op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op culturele protocollen, ethische oordelen of relationele context, of wanneer een taak zou inhouden dat er namens jouw gemeenschap wordt gehandeld — kōrero delen, documenten indienen, iets in jouw naam versturen — stopt het systeem en stuurt het door naar een mens — jouw moderator, jouw kaumātua, jouw rūnanga. De AI kan deze grens niet omzeilen, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen”: de mogelijkheid voor een kaitiaki om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiepersistentiesysteem slaat de expliciete instructies van je gemeenschap op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een reactie genereert, wordt deze getoetst aan deze opgeslagen instructies. Als de reactie in tegenspraak is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde reacties en acties aan de hand van de feitelijke gegevens van uw gemeenschap. Het vraagt de AI niet of haar antwoord correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd uitgelegd, kan de uitleg van een AI over haar eigen redenering niet worden vertrouwd als weerspiegeling van wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw gemeenschap. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een waterkering werkt ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren ethische verklaringen over AI. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je gemeenschap vertrouwt niet op de hoop dat fondsen correct worden beheerd — ze vereist degelijk financieel toezicht, met verantwoording aan het collectief. Dat is architectonisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — gebaseerd op Te Tiriti

De bestuursarchitectuur achter Village AI wordt het Tractatus-raamwerk genoemd. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of het bestuur doet wat het beweert te doen. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.

Het is transparant. Elk besluit van het bestuurssysteem wordt geregistreerd. Wanneer de grenshandhaver de AI ervan weerhoudt een waardenbesluit te nemen, wordt die gebeurtenis vastgelegd. Wanneer de kruisverwijzingsvalidator een discrepantie opmerkt, wordt dit vastgelegd. Je moderators kunnen precies zien wat het bestuurssysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is gebaseerd op Te Tiriti o Waitangi. Het partnerschapsmodel van het Tractatus-raamwerk is geen generiek raamwerk voor ‘betrokkenheid van belanghebbenden’ dat is ontleend aan corporate governance. Het is expliciet gebaseerd op de principes van Te Tiriti — met name de bevestiging in artikel twee van tino rangatiratanga (volledige zeggenschap) over taonga. In de context van AI-governance betekent dit dat gemeenschappen de volledige zeggenschap behouden over hun kennis, hun gegevens en de regels die bepalen hoe AI met beide omgaat. Het raamwerk verleent deze autoriteit niet — het erkent dat de autoriteit al bestaat en bouwt een architectuur om deze af te dwingen.

Deze verankering in Te Tiriti is gepubliceerd in het open-source raamwerk op agenticgovernance.digital. Het is geen marketingclaim — het is een architectonische toezegging die iedereen kan inzien, bekritiseren en waarvoor het platform ter verantwoording kan worden geroepen.

We erkennen dat het verankeren van een technologisch raamwerk in Te Tiriti verplichtingen met zich meebrengt die verder gaan dan code. Of Village aan die verplichtingen voldoet, is een oordeel dat door de Māori-gemeenschappen moet worden gevormd, niet door het platform zelf.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk daadwerkelijk doet — waarmee het uw gemeenschap kan helpen, hoe vooringenomenheid via het vocabulaire-systeem wordt aangepakt, en wat er nog in ontwikkeling is.

Wilt u dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren u de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.