Alle edities · AI Research Edition

Your Community, Your AI — CC BY 4.0

Architectonisch AI-beheer op gemeenschapsniveau — Een technische analyse van Village AI

Voor AI/ML-onderzoekers en veiligheidsonderzoekers

Een vijfdelige technische reeks waarin een alternatieve benadering van AI-alignment wordt onderzocht: architecturale beperkingen op het moment van inferentie in plaats van alignment via training. Geschreven voor onderzoekers die bekend zijn met RLHF, constitutionele AI, mechanistische interpreteerbaarheid en de bredere literatuur over alignment. Terminologie die specifiek is voor deze reeks wordt gedefinieerd in de woordenlijst.

De reeks

1. Wat AI is — en waar het afstemmingsprobleem werkelijk ligt

Emergent redeneren, schaalwetten en het onderscheid tussen capaciteit en controleerbaarheid — nu nog scherper gesteld door de verschuiving van 2024–2026 van chatbots naar agenten (capaciteit versus productisering) en door resultaten op het gebied van ‘chain-of-thought-unfaithfulness’ die toezicht op basis van CoT beperken. Waarom het afstemmingsprobleem zoals dat zich voordoet in geïmplementeerde gemeenschapssystemen verschilt van het afstemmingsprobleem zoals dat in het laboratorium wordt bestudeerd — en waarom de ‘agentische wending’ de omvang van die kloof vergroot.

2. Basismodellen versus domeinspecifieke inferentie — Een structurele analyse

Distributieverschuiving, basisfrequentiebias en het probleem van stille substitutie. Hoe de samenstelling van trainingsdata het standaardgedrag bepaalt, waarom prompting en RLHF de distributiepriors aan de staart niet oplossen, en wat een ‘Specialised Layer’-strategie op een model met 14 miljard parameters biedt (en opoffert) in vergelijking met toonaangevende systemen — inclusief de eigenschap van actie-beperking die begrensde inferentie biedt zodra AI handelt in plaats van antwoordt.

3. Waarom governance tijdens de training faalt — architecturale beperkingen als alternatief

Het incident 27027 als casestudy in het falen van afstemming: een AI-systeem dat stilletjes theologische taal vervangt door therapeutische taal, ondanks expliciete instructies. Waarom fine-tuning, RLHF en constitutionele AI dit soort problemen niet oplossen. Guardian Agents als epistemische scheiding — verificatiesystemen die structureel onafhankelijk zijn van het model dat ze bewaken.

4. Wat is live in productie — Een onverbloemde inventarisatie

Het daadwerkelijke systeem: een Qwen2-basismodel van 14 miljard met fine-tuning per producttype in de Specialised Layer, zelfgehoste GPU-inferentie met CPU-fallback, cosinus-similariteitsverificatie ten opzichte van brondocumenten, vier Guardian Agent-lagen, een adaptieve feedbacklus en één enkel begrensd agentisch oppervlak (feedbackresolutie). Wat werkt, wat nog niet bewezen is en waar we ons bewust zijn van beperkingen.

5. Verder dan het model — Platformarchitectuur en integratie van governance

AI als één onderdeel binnen een soeverein gemeenschapsplatform. Hoe architecturale beperkingen zich uitstrekken tot buiten het model, naar data-isolatie, toestemmingsarchitectuur, vocabulaire-gedreven framing en gefedereerd bestuur tussen gemeenschappen. Wat deze aanpak inlevert aan capaciteit en wat hij wint aan verifieerbaarheid.

Voor wie dit bedoeld is

Deze artikelen zijn geschreven voor onderzoekers die zich bezighouden met AI-afstemming, veiligheid, interpreteerbaarheid en governance. Er wordt vanuit gegaan dat de lezer bekend is met transformer-architecturen, fine-tuning-methoden, reinforcement learning op basis van menselijke feedback en de huidige literatuur over afstemming.

De bijdrage is niet theoretisch. Het is een beschrijving van een geïmplementeerd systeem — operationeel sinds 2025 — dat een andere benadering van het afstemmingsprobleem hanteert: architecturale beperking op het moment van inferentie in plaats van afstemming via training. De benadering is nog in de kinderschoenen, werkt op bescheiden schaal en is nog niet onafhankelijk geëvalueerd. We presenteren het als een casestudy, niet als een oplossing.

We geven de beperkingen duidelijk aan. Een model met 14 miljard parameters en domeinspecialisatie kan qua algemene capaciteit niet tippen aan toonaangevende systemen. De Guardian Agent-architectuur zorgt voor extra latentie. De verificatie van de cosinus-similariteit is afhankelijk van de kwaliteit en de dekking van het corpus van brondocumenten. Dit zijn reële afwegingen, en we bespreken ze in het geheel van het artikel.

Meer informatie

• Village AI — Volledige technische architectuur
• Het Tractatus-framework — Open-source AI-governance
• Guardian Agents — Architectuur en implementatie
• Oprichtings- en gemeenschapsprogramma
• Cursussen voor praktijkbeoefenaars over het gebruik van deze systemen onder menselijke controle: Werken met Claude en Agents at Work