Toutes les éditions · Parish Edition

Your Community, Your AI — CC BY 4.0

L’IA des géants de la tech face à l’IA de votre paroisse — Pourquoi cette différence est importante

Où l’IA des géants de la tech apprend les bonnes manières

Imaginez que vous éleviez un enfant dans un foyer où les seuls livres disponibles seraient des brochures publicitaires, des débats sur les réseaux sociaux et Wikipédia. Cet enfant s’exprimerait avec éloquence, serait, d’une certaine manière, très cultivé et capable de rédiger avec aisance sur pratiquement n’importe quel sujet. Mais il aurait une vision particulière du monde — façonnée par le commerce, sensible aux controverses, et s’exprimant avec assurance, quelle que soit la profondeur de ses connaissances. Il saurait se montrer autoritaire sans pour autant faire preuve de sagesse.

C’est, en gros, ainsi que sont « élevés » les systèmes d’IA des géants de la tech.

Les systèmes d’IA les plus connus de ces géants — les grands chatbots commerciaux et, désormais, les agents qui s’appuient sur eux — sont entraînés à partir d’énormes quantités de textes extraits d’Internet. Des milliards de pages. Il en résulte un système capable de discuter de presque tout — mais dont les paramètres par défaut, les hypothèses et les instincts sont façonnés par ce que l’Internet surreprésente.

Internet surreprésente :

• Les contenus en anglais (et, au sein de l’anglais, l’anglais américain)
• Le langage commercial et marketing
• Le cadre individualiste (« ce qui est le mieux pour vous »)
• Un langage thérapeutique laïque pour les questions émotionnelles et morales
• Un discours technique et professionnel
• Des contenus datant des vingt dernières années, avec une profondeur historique limitée

Internet sous-représente :

• Le langage liturgique et dévotionnel
• Les traditions de prise de décision communautaire
• Les cadres moraux non occidentaux
• Les traditions orales et les cultures de la narration
• L’expérience vécue par les petites communautés enracinées
• L’histoire, les personnes et les pratiques réelles de votre paroisse

Lorsqu’un paroissien interroge un système d’IA des géants du web sur la manière de faire face à un deuil, celui-ci recourt au langage de la thérapie cognitivo-comportementale — non pas parce qu’il a jugé cette approche supérieure, mais parce que c’est ce qui domine ses données d’entraînement. Il ne propose pas les paroles de l’office des funérailles, la tradition du « mois de prière » ou le ministère discret d’une visite pastorale, car ces schémas sont statistiquement rares dans les données à partir desquelles il a appris.

Ce n’est pas un défaut qui peut être corrigé par de meilleures instructions. C’est structurel. Le caractère du système est déterminé par son éducation, et son éducation, c’est Internet.

Que signifie réellement « formé localement » ?

Village AI fonctionne différemment, et cette différence ne tient pas au fait qu’il soit plus petit ou moins performant. La différence réside dans la source à partir de laquelle l’IA apprend ses schémas. (Tout terme inconnu dans cette série est défini en langage simple dans le glossaire.)

Un Village AI destiné à votre paroisse est formé sur trois niveaux de contenu :

Le niveau de la plateforme. Il s’agit de la base : le fonctionnement de la plateforme Village, les fonctionnalités disponibles, la navigation dans le système. Tous les Villages partagent cette couche. Cela signifie que l’IA peut aider un nouveau paroissien à s’y retrouver, lui expliquer comment partager un témoignage ou rejoindre un appel vidéo, sans qu’il soit nécessaire de lui enseigner ces bases à partir de zéro.

La couche « paroisse ». C’est ce qui fait de votre Village un lieu qui vous est propre. L’IA apprend à partir du contenu que votre communauté a réellement créé : bulletins paroissiaux, récits partagés par les membres, descriptions d’événements, documents publiés par votre conseil paroissial. Lorsqu’un paroissien demande « Que s’est-il passé lors du souper des récoltes de l’année dernière ? », l’IA peut répondre en s’appuyant sur les archives de votre communauté, et non sur une supposition basée sur ce à quoi ressemblent généralement les soupers des récoltes sur Internet.

Consentement à chaque étape. Aucun contenu n’est intégré à l’entraînement de l’IA sans autorisation explicite. Un membre qui partage un récit peut choisir si celui-ci est inclus dans les connaissances de l’IA. Le contenu marqué comme privé reste privé — de manière structurelle, et pas seulement par la politique d’utilisation. L’IA ne peut pas accéder à ce qui ne lui a jamais été donné.

Il en résulte un système qui connaît votre paroisse — et non l’idée que se fait Internet de ce qu’une paroisse pourrait être. Lorsqu’elle aide à rédiger un bulletin paroissial, elle s’appuie sur les schémas de vos bulletins précédents, et non sur des modèles de lettres d’information d’entreprise. Lorsqu’elle répond à une question concernant votre communauté, elle s’appuie sur les archives de votre communauté, et non sur une moyenne statistique de toutes les communautés.

Qui détient les clés

Jusqu’à présent, nous avons parlé des modèles que l’IA intègre. Mais comme l’expliquait l’article 1, l’IA n’est plus seulement un outil qui répond — c’est de plus en plus un outil qui agit. Et dès lors qu’une IA peut agir en votre nom, une deuxième différence entre l’IA des géants de la tech et l’IA communautaire devient tout aussi importante que la première : qui détient les clés.

Lorsque vous laissez un agent d’une grande entreprise technologique faire quelque chose pour vous — réserver une salle, répondre à une demande, remplir une déclaration, gérer une liste —, vous lui remettez les clés : l’accès à vos données, parfois à vos comptes, et le pouvoir d’agir en votre nom. Ces actions se déroulent sur l’infrastructure de l’entreprise, selon ses règles, et ce sont les paramètres par défaut de l’entreprise qui déterminent les étapes. Si l’agent commet une erreur, vous ne le découvrirez peut-être qu’une fois l’action terminée, car un agent agissant de son propre chef vous laisse moins de possibilités d’intervenir. Et si vous demandez « qui en est responsable ? », la réponse est véritablement obscure : vous avez défini un objectif en une phrase ; le système de l’entreprise a choisi comment le mettre en œuvre.

Village AI repose sur le principe inverse. Lorsqu’il intervient, il le fait à l’intérieur des limites de votre communauté, sur une infrastructure dédiée à votre paroisse, selon les règles fixées par votre conseil paroissial — et, point crucial, son champ d’action est délibérément limité afin qu’un être humain puisse toujours intervenir. Il rédigera, suggérera, organisera et triera ; il ne prendra pas discrètement des mesures lourdes de conséquences et irréversibles en votre nom sans qu’une personne soit mise au courant. Les clés restent entre les mains de votre communauté. Nous décrivons précisément comment cela est mis en œuvre à l’article 3, et exactement ce qui agit en votre nom aujourd’hui à l’article 4.

Pour l’instant, le principe est simple : à l’ère des chatbots, la question était « quels schémas mon IA reproduit-elle ? » À l’ère des agents, vous devez également vous demander « qui tient les commandes — et puis-je les reprendre ? »

Guardian Agents : Les gardiens à la porte

Même une IA entraînée localement peut commettre des erreurs. Elle peut mal se souvenir d’un détail, confondre deux événements ou générer une réponse qui semble correcte mais qui ne repose pas sur vos données réelles. C’est la nature même de la technologie : elle prédit un texte plausible, et « plausible » n’est pas synonyme de « précis ».

C’est là qu’interviennent les Guardian Agents.

Les Guardian Agents sont des couches de vérification indépendantes qui contrôlent chaque réponse de l’IA avant qu’elle n’atteigne le membre. Il ne s’agit pas d’une IA supplémentaire — ce sont des contrôles basés sur des mesures, structurellement distincts de l’IA qu’ils surveillent, de sorte que le surveillant ne partage pas les angles morts de ce qu’il surveille.

Voici comment cela fonctionne, en termes simples :

Le premier gardien prend la réponse de l’IA et mesure dans quelle mesure elle correspond au contenu réel des archives de votre communauté. Il ne s’agit pas de savoir si cela semble correct, mais si elle est mathématiquement similaire aux documents réels. Si l’IA dit « Le conseil paroissial a décidé de réparer le toit en septembre », le gardien vérifie si les procès-verbaux de votre conseil paroissial contiennent effectivement une décision concernant la réparation du toit en septembre.

Le deuxième gardien décompose la réponse en affirmations individuelles et vérifie chacune d’entre elles séparément. Une réponse de l’IA peut contenir trois affirmations : deux exactes et une inventée. Le deuxième gardien détecte l’affirmation inventée même lorsque la réponse globale semble convaincante.

Le troisième gardien surveille les schémas inhabituels au fil du temps : changements dans le comportement de l’IA, erreurs répétées, résultats qui s’approchent de limites définies. Il surveille la santé du système, et pas seulement les réponses individuelles.

Le quatrième gardien tire des enseignements des retours de votre communauté. Lorsqu’un membre signale une réponse de l’IA comme « peu utile » — un simple pouce vers le bas suffit —, le système examine ce qui n’a pas fonctionné, identifie la cause profonde et s’ajuste en conséquence. Les modérateurs peuvent examiner et affiner ces corrections, mais l’apprentissage commence avec les membres ordinaires. Au fil du temps, l’IA s’aligne de plus en plus sur les connaissances réelles de votre communauté, et non l’inverse.

Chaque réponse de l’IA dans Village est accompagnée d’un indicateur de confiance qui indique au membre dans quelle mesure la réponse est fondée. Un niveau de confiance élevé signifie que le gardien a trouvé des correspondances solides dans vos archives. Un niveau de confiance faible signifie que la réponse est plus spéculative. Les membres peuvent remonter à la source de toute affirmation de l’IA — le document, le récit ou l’archive spécifique qui l’étaye.

Ce n’est pas une fonctionnalité offerte par l’IA des géants de la tech, car celle-ci ne s’appuie pas sur vos archives. Elle s’appuie sur Internet, et il n’existe aucun moyen pratique de vérifier des milliards de pages de données d’entraînement par rapport à une seule réponse.

Le compromis

Village AI est délibérément plus restreint que les grands systèmes commerciaux. Il n’est pas conçu pour écrire des sonnets, générer des images photoréalistes ou couvrir tous les sujets imaginables — et à l’ère des agents, l’étendue brute n’est pas vraiment l’essentiel. Le compromis qui compte n’est pas l’éloquence pour l’éloquence ; c’est la garde et le contrôle. Un système ciblé qui connaît votre communauté, conserve vos données au sein de vos propres limites et reste soumis à votre gouvernance — et qui, lorsqu’il agit, n’intervient que là où un humain peut encore intervenir — a plus de valeur pour une communauté qu’un système plus éblouissant qu’elle ne contrôle pas.

Ce qu’il offre en revanche, c’est un système fidèle à votre communauté — son contenu, ses valeurs, sa gouvernance —, avec la garantie que ses réponses s’appuient sur vos dossiers réels plutôt que sur les tendances statistiques d’Internet.

Pour une paroisse qui a besoin d’aide pour rédiger des bulletins, répondre aux questions des paroissiens sur les activités communautaires, résumer les procès-verbaux du conseil paroissial ou organiser les informations relatives aux événements — ce n’est pas une limitation. C’est précisément l’outil qu’il faut pour cette tâche. Et lorsque cet outil agit plutôt que de se contenter de répondre, il le fait en laissant les rênes entre les mains de votre communauté.

La question n’est pas « quelle IA est la plus puissante ? », mais « quelle IA sert ma communauté — et qui en a le contrôle lorsqu’elle agit ? »

Vous souhaitez utiliser efficacement et en toute sécurité des outils d’IA comme ceux-ci ? Nos formations gratuites — Travailler avec Claude et Agents at Work — vous enseignent les compétences pratiques nécessaires. Pour découvrir l’architecture complète Guardian Agents qui sous-tend Village AI, consultez Village AI — Gouvernance agentique.