Un système de production à l'étude - Ce qui est déployé aujourd'hui

Series: Community-Scale AI Governance - A Research Perspective on the Village Platform (Article 4 of 5) Author: My Digital Sovereignty Ltd Date: Mars 2026 Licence: CC BY 4.0 International

Champ d'application et intention

Cet article dresse un inventaire de ce qui est actuellement déployé dans la plateforme Village, de ce qui est encore en cours de développement et des domaines dans lesquels l'écart entre l'intention architecturale et la réalité opérationnelle est le plus grand. Il est rédigé en tenant compte du fait qu'un public de chercheurs exige de la franchise sur la maturité du système - ce qui fonctionne, ce qui ne fonctionne pas encore et ce qui n'a pas été testé.

La plateforme est en production depuis octobre 2025. Elle dessert un petit nombre de communautés. La base de déploiement est insuffisante pour permettre des affirmations statistiques sur l'efficacité, et cet article ne fait pas de telles affirmations.

Capacités opérationnelles

Les capacités suivantes sont déployées et opérationnelles au moment de la rédaction de cet article :

Réponse aux requêtes en fonction du contenu

Le sous-système d'IA répond aux requêtes des membres en récupérant et en synthétisant des informations provenant du corpus de documents de la communauté - annonces, récits partagés, comptes rendus d'événements, documents organisationnels. Les réponses sont vérifiées par rapport au corpus par la couche Guardian Agent avant d'être livrées.

Ce qui fonctionne: Pour les requêtes qui renvoient directement au contenu documenté ("Quand a lieu la prochaine réunion ?", "Qu'a-t-on décidé au sujet du fonds de construction ?"), le système produit des réponses fondées et vérifiables. La couche d'ancrage sémantique identifie correctement les documents sources pertinents dans la majorité des cas observés.

Ce qui ne fonctionne pas de manière fiable: Pour les requêtes qui nécessitent une inférence sur plusieurs documents, ou qui traitent de sujets peu couverts dans les archives de la communauté, la qualité des résultats se dégrade. Le système peut produire des réponses plausibles mais non fondées, signalées par des indicateurs de faible confiance auxquels tous les utilisateurs ne prêtent pas attention.

Ce qui n'a pas été testé: Les performances du système en cas d'interrogation contradictoire (tentatives délibérées d'obtenir des résultats non fondés ou inappropriés) n'ont pas été évaluées de manière systématique. Les tests informels suggèrent que la couche d'application des limites capture de nombreux modèles adverses, mais aucune évaluation formelle n'a été réalisée par l'équipe rouge.

Aide à la rédaction

L'IA aide à rédiger les communications de la communauté - annonces, bulletins, correspondance. Les projets sont générés sur la base des modèles de contenu existants de la communauté et sont soumis à l'examen du modérateur avant d'être distribués.

Limitation: La qualité de rédaction du système est directement limitée par le volume et la qualité du contenu existant de la communauté. Pour les communautés ayant peu d'enregistrements, les ébauches ont tendance à revenir aux valeurs par défaut de distribution du modèle de base - précisément le mode d'échec que l'architecture est conçue pour éviter. L'atténuation (révision par un modérateur) est efficace mais introduit un goulot d'étranglement humain.

Résumé des documents

Les documents longs et les collections d'annonces peuvent être résumés. Cette capacité est simple et bien servie par la technologie LLM actuelle.

Support multilingue

La plate-forme prend en charge cinq langues : Anglais, allemand, français, néerlandais et Te Reo Maori. La traduction est assurée par un service de traduction spécialisé (DeepL), et non par le LLM. Cette décision architecturale - séparer la traduction de la génération - évite le mode d'échec connu des traductions générées par le LLM qui altèrent le sens tout en maintenant la fluidité.

Triage des commentaires

Les commentaires des membres sont automatiquement classés, examinés dans la mesure du possible et acheminés vers les personnes compétentes. Le système de triage utilise la classification des causes fondamentales pour identifier les schémas dans le retour d'information et faire remonter les problèmes systémiques.

Ce qui fonctionne: Les commentaires de routine (demandes de fonctionnalités, questions de navigation, demandes de contenu) sont correctement classés et traités dans la majorité des cas observés.

Ce qui ne fonctionne pas de manière fiable: Les commentaires qui impliquent un contexte interpersonnel nuancé ou des références culturelles spécifiques à la communauté sont parfois mal classés. Le taux d'erreur du système pour les commentaires sensibles à la culture n'a pas été formellement mesuré.

Le système de vocabulaire : Le cadrage linguistique en tant que gouvernance

La plateforme met en œuvre un système de vocabulaire qui adapte toute la terminologie destinée à l'utilisateur au type de communauté. Un groupe de recherche voit "groupe de recherche" et "collaborateurs" ; une société de conservation voit "membres" et "projets de conservation" ; une paroisse voit "paroissiens" et "gouvernance de la sacristie"

Il ne s'agit pas d'une caractéristique cosmétique. Le vocabulaire façonne le cadre de référence de l'IA pour l'interprétation des requêtes et la génération des réponses. Lorsque le système traite une requête dans le contexte d'un vocabulaire qui utilise les "collaborateurs" plutôt que les "utilisateurs", la distribution des réponses évolue vers un cadre collaboratif et communautaire.

Intérêt de la recherche: Le système de vocabulaire fournit une expérience naturelle sur la façon dont le cadrage linguistique affecte la distribution des résultats de l'IA. Une comparaison systématique des résultats selon les configurations de vocabulaire - en maintenant la requête constante tout en variant le vocabulaire - permettrait de tester l'hypothèse selon laquelle les changements terminologiques de surface se propagent jusqu'à des différences de cadrage substantielles dans les résultats. Cette expérience n'a pas encore été menée, mais elle est réalisable avec l'infrastructure existante.

Limitation: Le système de vocabulaire fonctionne au niveau de la terminologie et non au niveau du cadre conceptuel. Le fait de remplacer "utilisateurs" par "collaborateurs" modifie la surface de distribution, mais ne modifie pas les hypothèses structurelles plus profondes intégrées dans le modèle de base. La profondeur de l'influence du système de vocabulaire sur la qualité des résultats est une question ouverte.

Guardian Agent Performance

Les quatre couches du site Guardian Agent sont déployées et opérationnelles. Leurs caractéristiques de performance, dans la mesure où elles sont actuellement observables :

Fondation sémantique (Gardien 1): Identifie correctement les documents sources pertinents pour les requêtes simples. Les performances se dégradent pour l'inférence multi-documents et pour les requêtes qui nécessitent des connaissances implicites qui ne sont pas directement énoncées dans les documents sources.

Décomposition des revendications (Gardien 2): isole avec succès les revendications individuelles dans les réponses structurées. Moins efficace pour les réponses qui intègrent les revendications dans des structures syntaxiques complexes ou qui expriment les revendications de manière implicite par le biais d'un cadrage plutôt que par une déclaration explicite.

Surveillance de la dérive (Guardian 3): Opérationnel, mais la période de déploiement est trop courte pour détecter une dérive longitudinale significative. Le système dispose de mesures de référence ; il n'a pas encore été testé pour savoir s'il peut détecter un changement progressif de la distribution sur plusieurs mois ou années.

Retour d'information adaptatif (Gardien 4): Incorpore le retour d'information des membres et des modérateurs dans les seuils de vérification. Le volume de feedback provenant de la base de déploiement actuelle est faible, ce qui limite la capacité du système à apprendre des modèles spécifiques à la communauté. Il s'agit d'un problème d'amorçage : le système s'améliore avec le retour d'information, mais les premières communautés ne fournissent pas suffisamment de retour d'information pour que le système s'améliore de manière substantielle.

Ce qui reste à développer

Les composants suivants ont été conçus mais ne sont pas encore totalement opérationnels :

**Le système exploite deux niveaux de modèles - un modèle plus rapide et plus petit pour les requêtes de routine et un modèle plus grand pour les tâches de raisonnement complexes. La logique de routage qui détermine quelles requêtes vont vers quel modèle est fonctionnelle mais non optimisée. Certaines requêtes qui bénéficieraient d'un traitement plus approfondi sont actuellement traitées par le modèle le plus rapide, ce qui se traduit par des réponses de moindre qualité.

**Le système fonctionne actuellement au niveau de la communauté - il connaît le contenu de la communauté mais ne modélise pas les préférences individuelles des membres ou les modèles d'interaction. La personnalisation au niveau individuel est prévue, mais elle soulève des questions de gouvernance supplémentaires (consentement, profilage, bulles de filtrage) qui n'ont pas encore été résolues.

La formation et l'accréditation des modérateurs L'architecture de gouvernance suppose des modérateurs compétents capables d'examiner les résultats de l'IA et de fournir un retour d'information correctif. Un programme de formation structuré pour les modérateurs a été conçu, mais son déploiement n'en est qu'à ses débuts. La qualité de la gouvernance dépend directement de la compétence des modérateurs, qui est actuellement variable.

Modes d'échec observés dans la pratique

La transparence sur les défaillances observées est une composante nécessaire de toute description crédible d'un système :

**Le système produit occasionnellement des réponses qui semblent faire autorité mais qui ne sont pas étayées par les enregistrements de la communauté. La couche Guardian Agent détecte la plupart de ces réponses, mais pas toutes, en particulier lorsque l'affirmation non fondée est sémantiquement similaire au contenu réel.

**Dans le cas de requêtes complexes, le vocabulaire par défaut de l'entreprise du modèle de base l'emporte parfois sur le vocabulaire spécifique à la communauté. Il s'agit du problème de dérive distributionnelle décrit à l'article 1, partiellement atténué mais non éliminé par le système de vocabulaire.

**Les communautés en phase initiale d'adoption génèrent un retour d'information insuffisant pour permettre aux mécanismes d'apprentissage adaptatif de fonctionner efficacement. Cela crée un problème de démarrage à froid où le système est moins bien calibré précisément au moment où la communauté a le plus besoin qu'il soit fiable.

**L'architecture de gouvernance impose une charge de révision importante aux modérateurs bénévoles. Dans les communautés où le rôle de modérateur manque de ressources, la qualité des révisions diminue, ce qui réduit l'efficacité de la couche de gouvernance humaine dans la boucle.

Ce que cela signifie pour la recherche

La plateforme Village, dans son état actuel, est un prototype fonctionnel de gouvernance de l'IA à l'échelle communautaire. Il ne s'agit pas d'un système mature et validé. Les principes architecturaux sont mis en œuvre, mais les preuves empiriques de leur efficacité sont préliminaires.

Pour les chercheurs, cela représente à la fois une limite et une opportunité. La limite est que les affirmations concernant l'efficacité de la gouvernance du cadre ne peuvent pas encore être étayées par des preuves rigoureuses. L'opportunité réside dans le fait que la plateforme fournit un environnement de recherche réel - un système opérationnel avec des couches de gouvernance instrumentées, déployées dans plusieurs types de communautés - où les hypothèses sur la gouvernance de l'IA peuvent être testées de manière empirique.

Les auteurs souhaitent collaborer avec des chercheurs intéressés par l'évaluation des affirmations du cadre. La base de code est ouverte, les journaux de gouvernance sont accessibles aux modérateurs de la communauté et l'architecture est conçue pour supporter le type d'instrumentation nécessaire à la recherche empirique sur la gouvernance.

Ceci est l'article 4 sur 5 de la série "Gouvernance de l'IA à l'échelle de la communauté". Pour l'architecture technique complète, visitez Village AI on Agentic Governance.

Précédent : Pourquoi la gouvernance de l'IA basée sur les politiques est insuffisante - L'alternative structurelle Suivant : La plateforme au-delà de l'IA - L'infrastructure communautaire comme contexte de recherche