Gouvernance architecturale de l’IA à l’échelle communautaire — Une analyse technique de Village AI

À l’intention des chercheurs en IA/apprentissage automatique et des chercheurs en sécurité

Une série technique en cinq parties examinant une approche alternative à l’alignement de l’IA : la contrainte architecturale au moment de l’inférence plutôt que l’alignement par l’entraînement. Rédigée à l’intention des chercheurs familiarisés avec le RLHF, l’IA constitutionnelle, l’interprétabilité mécaniste et la littérature plus générale sur l’alignement. La terminologie spécifique à cette série est définie dans le glossaire.

La série

1. Qu’est-ce que l’IA ? — Et où se situe réellement le problème d’alignement

Raisonnement émergent, lois d’échelle et distinction entre capacité et contrôlabilité — désormais mise en évidence par le passage, entre 2024 et 2026, des chatbots aux agents (capacité vs productisation) et par les résultats sur la non-fidélité de la chaîne de pensée qui limitent la supervision basée sur la CoT. Pourquoi le problème d’alignement tel qu’il est rencontré dans les systèmes communautaires déployés diffère de celui étudié en laboratoire — et pourquoi le tournant vers les agents élargit la portée de cet écart.

2. Modèles de base vs inférence spécialisée par domaine — Une analyse structurelle

Décalage de distribution, biais du taux de base et problème de substitution silencieuse. Comment la composition des données d’entraînement détermine le comportement par défaut, pourquoi les prompts et la RLHF ne résolvent pas les a priori distributionnels à l’extrémité de la distribution, et ce qu’apporte (et ce qu’elle sacrifie) une stratégie de « couche spécialisée » sur un modèle à 14 milliards de paramètres par rapport aux systèmes de pointe — y compris la propriété de confinement de l’action que permet l’inférence bornée dès lors que l’IA agit plutôt que de répondre.

3. Pourquoi la gouvernance en phase d’entraînement échoue — les contraintes architecturales comme alternative

L’incident 27027 comme étude de cas d’échec d’alignement : un système d’IA remplaçant silencieusement le langage théologique par du langage thérapeutique malgré des instructions explicites. Pourquoi le fine-tuning, le RLHF et l’IA constitutionnelle ne résolvent pas ce type de problème. Guardian Agents en tant que séparation épistémique — des systèmes de vérification structurellement indépendants du modèle qu’ils surveillent.

4. Ce qui est actuellement en production — un inventaire sans fard

Le système actuel : un modèle de base Qwen2 de 14 milliards de paramètres avec un ajustement fin par type de produit au niveau de la couche spécialisée, une inférence GPU auto-hébergée avec repli sur CPU, une vérification par similarité cosinus par rapport aux documents sources, quatre couches Guardian Agent, une boucle de rétroaction adaptative et une surface agentique unique et bornée (résolution de rétroaction). Ce qui fonctionne, ce qui reste à prouver et les limites dont nous avons conscience.

5. Au-delà du modèle — Architecture de la plateforme et intégration de la gouvernance

L’IA en tant que composante d’une plateforme communautaire souveraine. Comment les contraintes architecturales s’étendent au-delà du modèle pour englober l’isolation des données, l’architecture du consentement, le cadrage basé sur le vocabulaire et la gouvernance fédérée intercommunautaire. Ce que cette approche sacrifie en termes de capacités et ce qu’elle gagne en vérifiabilité.

À qui s’adresse ce document ?

Ces articles s’adressent aux chercheurs travaillant sur l’alignement, la sécurité, l’interprétabilité et la gouvernance de l’IA. Ils supposent une bonne connaissance des architectures de transformateurs, des méthodes de réglage fin, de l’apprentissage par renforcement à partir de retours d’information humains, ainsi que de la littérature actuelle sur l’alignement.

Cette contribution n’est pas théorique. Il s’agit de la description d’un système déployé — opérationnel depuis 2025 — qui adopte une approche différente du problème d’alignement : une contrainte architecturale au moment de l’inférence plutôt qu’un alignement par l’entraînement. Cette approche est récente, fonctionne à une échelle modeste et n’a pas fait l’objet d’une évaluation indépendante. Nous la présentons comme une étude de cas, et non comme une solution.

Nous exposons clairement ses limites. Un modèle de 14 milliards de paramètres avec spécialisation de domaine ne peut rivaliser avec les systèmes de pointe en termes de capacités générales. L’architecture Guardian Agent ajoute de la latence. La vérification de la similarité cosinus dépend de la qualité et de la couverture du corpus de documents sources. Il s’agit là de véritables compromis, que nous abordons tout au long de cet article.

Lectures complémentaires

Village AI — Architecture technique complète
Le cadre Tractatus — Gouvernance de l’IA open source
Guardian Agents — Architecture et mise en œuvre
Programme de la communauté fondatrice
Formations destinées aux professionnels sur l'exploitation de ces systèmes sous contrôle humain : Travailler avec Claude et Agents au travail

Cela vous a été utile ? Partagez cet article ou affichez un code QR à scanner.