Alle edities · Leadership Edition

Your Community, Your AI — CC BY 4.0

AI van Big Tech versus door de gemeenschap gestuurde AI — Waarom het verschil ertoe doet

Waar de AI van Big Tech zijn manieren leert

Bedenk eens wat er gebeurt als een systeem uitsluitend wordt getraind op het open internet — marketingmateriaal, uitwisselingen op sociale media en encyclopedieartikelen. Het systeem zou welbespraakt zijn, in zekere zin breed geïnformeerd, en in staat om vloeiende teksten over vrijwel elk onderwerp te produceren. Maar het zou een specifieke kijk op de wereld hebben — commercieel gevormd, bewust van controverses, zelfverzekerd van toon ongeacht de diepgang. Het zou weten hoe het gezaghebbend moet klinken zonder per se ook daadwerkelijk gezaghebbend te zijn.

Dit is, in de praktijk, hoe AI-systemen van Big Tech worden getraind.

De bekendste AI-systemen van Big Tech — de grote commerciële chatbots en, tegenwoordig, de daarop gebaseerde agents — worden getraind op enorme hoeveelheden tekst die van het internet zijn verzameld. Miljarden pagina’s. Het resultaat is een systeem dat over bijna alles kan discussiëren — maar waarvan de standaardinstellingen, aannames en instincten worden gevormd door wat op het internet oververtegenwoordigd is.

Het internet oververtegenwoordigt:

• Engelstalige inhoud (en binnen het Engels: Amerikaans Engels)
• Commerciële en marketingtaal
• Individualistische benadering („wat levert het jou op?“)
• Seculiere, therapeutische taal voor emotionele en ethische vraagstukken
• Technisch en professioneel bedrijfsdiscours
• Inhoud uit de afgelopen twintig jaar, met beperkte historische diepgang

Het internet is ondervertegenwoordigd:

• Taalgebruik op het gebied van burger- en gemeentelijk bestuur
• Tradities van gemeenschappelijke besluitvorming
• Kaders voor publieke verantwoording
• Deliberatieve democratische praktijk
• De operationele realiteit van kleine, lokaal verankerde gemeenschapsorganisaties
• De daadwerkelijke dossiers, notulen en besluiten van uw organisatie

Wanneer een inwoner een vraag indient over een besluit van de gemeenteraad en een AI van een Big Tech-bedrijf helpt bij het opstellen van het antwoord, grijpt deze terug op bedrijfscommunicatietaal — niet omdat het heeft beoordeeld dat dit gepast is, maar omdat dit de overhand heeft in de trainingsdata. Het put niet uit de conventies van publieke verantwoording, de taal van burgerplicht of de afgewogen toon die past bij een orgaan dat verantwoording aflegt aan zijn gemeenschap, omdat die patronen statistisch gezien zeldzaam zijn in de gegevens waaruit het heeft geleerd.

Dit is geen tekortkoming die met betere instructies kan worden gecorrigeerd. Het is structureel. Het karakter van het systeem wordt bepaald door zijn training, en die training was het internet.

Wat ‘lokaal getraind’ eigenlijk betekent

Village AI werkt anders, en het verschil zit hem niet in het feit dat het kleiner of minder capabel is. Het verschil zit hem in waar de AI haar patronen leert. (Elke onbekende term in deze serie wordt in gewone taal uitgelegd in de woordenlijst.)

Een Village AI voor jouw organisatie wordt getraind op drie inhoudslagen:

De platformlaag. Dit is de basis — hoe het Village-platform werkt, welke functies beschikbaar zijn, hoe je door het systeem navigeert. Elke Village deelt deze laag. Dit betekent dat een nieuw lid van uw organisatie zijn weg kan vinden, begrijpt hoe hij toegang krijgt tot documenten of kan deelnemen aan een videovergadering, zonder dat deze basisvaardigheden helemaal vanaf nul moeten worden aangeleerd.

De organisatorische laag. Dit is wat uw Village tot de uwe maakt. De AI leert van de inhoud die uw organisatie daadwerkelijk heeft gecreëerd — notulen van bestuursvergaderingen, mededelingen, verslagen van evenementen, beleidsdocumenten, gepubliceerde rapporten. Wanneer een inwoner vraagt: „Wat heeft de gemeenteraad het afgelopen kwartaal besloten over het buurthuis?”, kan de AI antwoorden op basis van de eigen gegevens van uw organisatie, en niet op basis van een gok over wat gemeenteraden doorgaans bespreken.

Toestemming bij elke stap. Er wordt geen inhoud in de training van de AI opgenomen zonder uitdrukkelijke toestemming. Een lid dat inhoud bijdraagt, kan kiezen of die bijdrage wordt opgenomen in de kennisbank van de AI. Inhoud die als beperkt is gemarkeerd, blijft beperkt — structureel, niet louter op basis van beleid. De AI heeft geen toegang tot wat haar nooit is gegeven. Onder de AVG is dit onderscheid tussen structurele en beleidsmatige beperkingen van groot belang: structurele controles zijn aantoonbaar afdwingbaar; beleidsmatige controles zijn afhankelijk van naleving.

Het resultaat is een systeem dat uw organisatie kent — niet de benadering van het internet van hoe een organisatie als de uwe eruit zou kunnen zien. Wanneer het helpt bij het opstellen van een bericht aan belanghebbenden, put het uit de patronen van uw eerdere communicatie, niet uit sjablonen voor bedrijfsnieuwsbrieven. Wanneer het een vraag over uw beslissingen beantwoordt, baseert het zich op uw eigen gegevens, niet op een statistisch gemiddelde.

Wie heeft de sleutels in handen

Tot nu toe ging het contrast over wiens patronen de AI in zich draagt. Maar zoals in artikel 1 uiteengezet, beperkt AI zich steeds minder tot het geven van antwoorden — het handelt. Zodra een systeem namens de organisatie kan handelen, wordt een tweede onderscheid even belangrijk als het eerste: wie de sleutels in handen heeft.

Wanneer een agent van een Big Tech-bedrijf een taak uitvoert – een formulier invult, een bericht verstuurt, een dossier aanmaakt, online transacties verricht – heeft het de sleutels gekregen: toegang tot de gegevens van de organisatie, soms tot haar rekeningen en systemen, en de bevoegdheid om namens haar te handelen. Die handelingen vinden plaats op de infrastructuur van de aanbieder, volgens de regels van de aanbieder, waarbij de standaardinstellingen van de aanbieder bepalen welke stappen worden genomen. Als de agent verkeerd handelt, komt de organisatie daar mogelijk pas achter als het al gebeurd is, omdat een autonome agent minder mogelijkheden biedt om in te grijpen. En het is echt moeilijk om de verantwoordelijkheid toe te wijzen — de functionaris stelde een doel vast; het systeem van de aanbieder koos de acties. Voor een instantie die verantwoording verschuldigd is aan kiezers en toezichthouders is dat een wezenlijk bestuursrisico, geen gemak.

Village AI is gebaseerd op het tegenovergestelde principe. Als het al actie onderneemt, gebeurt dat binnen de grenzen van de organisatie, op infrastructuur die onder uw bevoegdheid valt, volgens regels die uw bestuur of raad vaststelt — en, cruciaal, zijn reikwijdte is bewust beperkt, zodat een verantwoordelijke mens altijd kan ingrijpen. Het zal ontwerpen, voorstellen doen, organiseren en prioriteren; het zal niet zelfstandig namens de organisatie besluiten nemen, toezeggingen doen of transacties uitvoeren zonder dat er een persoon bij betrokken is. De touwtjes blijven in handen van de organisatie. Artikel 3 legt uit hoe dit wordt afgedwongen; artikel 4 beschrijft wat er vandaag de dag namens u handelt.

Het punt voor nu: in het tijdperk van de chatbots was de bestuursvraag „wiens patronen draagt onze AI?“ In het tijdperk van de agenten moet de raad van bestuur zich ook afvragen „wie heeft de controle wanneer het systeem handelt — en is dat toezicht structureel of slechts beloofd?“

Guardian Agents: De verificatielaag

Zelfs een lokaal getrainde AI kan fouten maken. Het kan een detail verkeerd toeschrijven, twee beslissingen door elkaar halen of een reactie genereren die aannemelijk klinkt, maar niet is gebaseerd op uw daadwerkelijke gegevens. Dit is de aard van de technologie – het voorspelt aannemelijke tekst, en aannemelijk is niet hetzelfde als nauwkeurig.

Dit is waar Guardian Agents in beeld komt.

Guardian Agents zijn onafhankelijke verificatielagen die elk AI-antwoord controleren voordat het de gebruiker bereikt. Het zijn geen extra AI’s — het zijn op metingen gebaseerde controles die structureel gescheiden zijn van de AI waarop ze toezicht houden, zodat de toezichthouder niet dezelfde blinde vlekken heeft als degene die wordt gecontroleerd.

Dit is wat ze doen, in begrijpelijke bewoordingen:

De eerste bewaker neemt het antwoord van de AI en meet in hoeverre dit overeenkomt met de daadwerkelijke inhoud in de documenten van je organisatie. Niet of het correct klinkt — maar of het wiskundig gezien overeenkomt met echte documenten. Als de AI zegt: „Het bestuur heeft in september besloten middelen toe te wijzen voor de speeltuin”, controleert de bewaker of de notulen van uw bestuur daadwerkelijk een dergelijk besluit bevatten.

De tweede bewaker splitst het antwoord op in afzonderlijke beweringen en controleert deze stuk voor stuk. Een AI-antwoord kan drie beweringen bevatten – twee correcte en één verzonnen. De tweede bewaker identificeert de verzinsel, zelfs als het antwoord in zijn geheel overtuigend klinkt.

De derde bewaker let op ongebruikelijke patronen in de loop van de tijd — verschuivingen in het gedrag van de AI, herhaalde fouten, uitvoer die de vastgestelde grenzen nadert. Hij houdt de gezondheid van het systeem in de gaten, niet alleen individuele antwoorden.

De vierde bewaker leert van de feedback van uw gemeenschap. Wanneer een lid een AI-antwoord als ‘niet nuttig’ markeert – een eenvoudige interactie is voldoende – onderzoekt het systeem wat er mis is gegaan, classificeert de hoofdoorzaak en past het zich aan. Moderatoren kunnen deze correcties beoordelen en verfijnen, maar het leerproces begint bij gewone leden. Na verloop van tijd sluit de AI steeds beter aan bij de feitelijke kennis van uw organisatie, in plaats van minder.

Elk AI-antwoord in Village is voorzien van een betrouwbaarheidsindicator die het lid laat zien hoe goed onderbouwd het antwoord is. Een hoge betrouwbaarheid betekent dat de bewaker sterke overeenkomsten in uw documenten heeft gevonden. Een lage betrouwbaarheid betekent dat het antwoord meer speculatief is. Leden kunnen elke AI-bewering terugvoeren naar de bron — het specifieke document, de notulen of het dossier waarop deze is gebaseerd.

Dit is geen functie die de AI van Big Tech biedt, omdat de AI van Big Tech niet is gebaseerd op uw documenten. Deze is gebaseerd op het internet, en er is geen praktische manier om miljarden pagina’s aan trainingsgegevens te verifiëren aan de hand van één enkel antwoord.

De nalevingsdimensie

Voor bestuursorganen heeft het verschil tussen Big Tech AI en door de gemeenschap beheerde AI directe implicaties op het gebied van regelgeving.

Verantwoordelijkheid voor de gegevensverwerking. Volgens de AVG is de verwerkingsverantwoordelijke verantwoordelijk voor de manier waarop persoonsgegevens worden verwerkt. Wanneer uw organisatie een Big Tech AI-systeem gebruikt en gegevens van betrokkenen naar de servers van die aanbieder stromen, rijzen er vragen over de verwerkingsverantwoordelijkheid, gezamenlijke verwerkingsverantwoordelijkheid en adequate gegevensverwerkingsovereenkomsten. Village AI verwerkt gegevens binnen de infrastructuur waarover uw organisatie de controle heeft, zonder dat er gegevens naar externe AI-aanbieders stromen.

Het recht op uitleg. Artikel 22 van de AVG en de overwegingen van de EU-AI-wet stellen de verwachting vast dat personen die worden beïnvloed door geautomatiseerde besluitvorming, zinvolle informatie kunnen ontvangen over de betrokken logica. AI-systemen van Big Tech zijn propriëtair — de redenering achter hun output is niet beschikbaar voor inzage. Het governancekader van Village AI, het Tractatus, is open-source en controleerbaar. Elk governancebesluit wordt geregistreerd en kan worden ingezien.

Gegevenslocatie. Voor organisaties die onderworpen zijn aan nationale vereisten inzake gegevenssoevereiniteit, is de locatie van de gegevensverwerking van belang. AI-systemen van Big Tech verwerken gegevens doorgaans in rechtsgebieden die door de aanbieder worden bepaald. De infrastructuur van Village kan zo worden geconfigureerd dat deze zich binnen een bepaald rechtsgebied bevindt — in de huidige implementatie is dat de Europese Unie.

Risicoclassificatie. De EU-AI-wet classificeert AI-systemen op basis van risiconiveau. AI die wordt gebruikt in het openbaar bestuur of bij beslissingen die van invloed zijn op de toegang van individuen tot essentiële diensten, kan in een hogere risicocategorie worden ingedeeld. Het gebruik van een systeem waarbij het beheer transparant en controleerbaar is en onder de controle van de organisatie valt, is vanuit regelgevend oogpunt wezenlijk anders dan het gebruik van een ondoorzichtig systeem van een derde partij.

Dit zijn geen theoretische zorgen. Het zijn de praktische vragen die een verantwoordelijke beheerder, raadslid of bestuurslid zich zou moeten stellen alvorens een besluit te nemen over de invoering van AI.

De afweging

Village AI is bewust beperkter dan de grote commerciële systemen. Het is niet gebouwd om poëzie te schrijven, fotorealistische beelden te genereren of elk denkbaar onderwerp te bestrijken — en in het tijdperk van de agenten gaat het niet om ruwe breedte. De afweging die voor een bestuursorgaan van belang is, is niet welsprekendheid omwille van de welsprekendheid; het gaat om bewaring en controle. Een gericht systeem dat uw organisatie kent, uw gegevens binnen uw eigen grenzen houdt en verantwoording aflegt aan uw bestuursorgaan — en dat, wanneer het handelt, alleen handelt waar een verantwoordelijke persoon nog kan ingrijpen — is voor een orgaan met een zorgplicht meer waard dan een krachtiger systeem waarover het geen verantwoording kan afleggen.

Wat het in plaats daarvan biedt, is verantwoording aan uw gemeenschap – de inhoud, de waarden, het bestuurskader – gecombineerd met de zekerheid dat de reacties zijn gebaseerd op uw daadwerkelijke gegevens, niet op statistische patronen van het internet.

Voor een organisatie die hulp nodig heeft bij het opstellen van communicatie, het beantwoorden van vragen van belanghebbenden over gemeenschapsactiviteiten, het samenvatten van bestuursdocumenten of het coördineren van evenementinformatie — is dit geen beperking. Het is het juiste hulpmiddel voor dit doel. En wanneer dat hulpmiddel handelt in plaats van alleen maar te antwoorden, doet het dat met de sleutels en de verantwoordingsplicht die bij de organisatie blijven.

De vraag is niet „welke AI is krachtiger?“ De vraag is „voor welke AI kan uw organisatie verantwoording afleggen — en de controle behouden wanneer deze handelt?“

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige Guardian Agents-architectuur achter Village AI.