Toutes les éditions · Family Edition

Your Community, Your AI — CC BY 4.0

L’IA des géants de la tech face à l’IA de votre famille — Pourquoi cette différence est importante

Où l’IA des géants de la tech apprend ses bonnes manières

Imaginez que vous éleviez un enfant dans un foyer où les seuls livres disponibles seraient des brochures publicitaires, des débats sur les réseaux sociaux et Wikipédia. Cet enfant s’exprimerait avec éloquence, serait, d’une certaine manière, très cultivé et capable de rédiger avec aisance sur pratiquement n’importe quel sujet. Mais il aurait une vision particulière du monde — façonnée par le commerce, sensible aux controverses, et s’exprimant avec assurance, quelle que soit la profondeur de ses connaissances. Il saurait se donner un air d’autorité sans pour autant faire preuve de sagesse.

C’est, en gros, ainsi que sont « élevés » les systèmes d’IA des géants de la tech.

Les systèmes d’IA les plus connus de ces géants — les grands chatbots commerciaux et, désormais, les agents qui s’appuient sur eux — sont entraînés à partir d’énormes quantités de textes extraits d’Internet. Des milliards de pages. Il en résulte un système capable de discuter de presque tout — mais dont les paramètres par défaut, les hypothèses et les instincts sont façonnés par ce que l’Internet surreprésente.

Internet surreprésente :

• Les contenus en anglais (et, au sein de l’anglais, l’anglais américain)
• Le langage commercial et marketing
• Les cadres de référence individualistes (« ce qui vous convient »)
• Un langage thérapeutique laïque pour aborder les questions émotionnelles et morales
• Un discours technique et professionnel
• Des contenus datant des vingt dernières années, avec une profondeur historique limitée

Internet sous-représente :

• Les traditions familiales de transmission orale
• Les savoirs intergénérationnels et les histoires orales
• Les structures et valeurs familiales non occidentales
• Le langage de la parenté, du devoir et de l’appartenance
• L’expérience vécue des familles élargies
• L’histoire, les personnes et les traditions réelles de votre famille

Lorsqu’un membre de la famille interroge un système d’IA d’une grande entreprise technologique sur la manière de faire face à un deuil, celui-ci recourt au langage de la thérapie cognitivo-comportementale — non pas parce qu’il a jugé cela approprié, mais parce que c’est ce qui domine ses données d’entraînement. Il n’offre pas le réconfort d’une histoire familiale sur la personne décédée, ni la tradition de se réunir et d’être simplement présent, car ces schémas sont statistiquement rares dans les données à partir desquelles il a appris.

Ce n’est pas un défaut qui peut être corrigé par de meilleures instructions. C’est un problème structurel. Le caractère du système est déterminé par son éducation, et son éducation, c’est Internet.

Que signifie réellement « formé localement » ?

Village AI fonctionne différemment, et cette différence ne tient pas au fait qu’il soit plus petit ou moins performant. La différence réside dans la source à partir de laquelle l’IA apprend ses schémas. (Tout terme inconnu dans cette série est défini en langage simple dans le glossaire.)

Un Village AI destiné à votre famille est formé sur trois niveaux de contenu :

La couche « plateforme ». Il s’agit de la base : comment fonctionne la plateforme Village, quelles fonctionnalités sont disponibles, comment naviguer dans le système. Tous les Village partagent cette couche. Cela signifie que l’IA peut aider un nouveau membre de la famille à s’y retrouver, lui expliquer comment partager une histoire ou rejoindre un appel vidéo, sans qu’il soit nécessaire de lui enseigner ces bases à partir de zéro.

La couche familiale. C’est ce qui fait de votre Village un espace qui vous est propre. L’IA apprend à partir du contenu que votre famille a réellement créé : les histoires que les membres ont partagées, les photos et leurs descriptions, les comptes-rendus d’événements, les documents que votre famille a mis en ligne. Lorsqu’un petit-enfant demande « Comment était la vie de l’arrière-grand-mère pendant la guerre ? », l’IA peut répondre en s’appuyant sur les archives de votre propre famille, et non sur une supposition basée sur ce à quoi ressemblent généralement les expériences de guerre sur Internet.

Consentement à chaque étape. Aucun contenu n’est intégré à l’entraînement de l’IA sans autorisation explicite. Un membre de la famille qui partage une histoire peut choisir si celle-ci est incluse dans les connaissances de l’IA. Le contenu marqué comme privé reste privé — de manière structurelle, et pas seulement par la politique de confidentialité. L’IA ne peut pas accéder à ce qui ne lui a jamais été donné.

Il en résulte un système qui connaît votre famille — et non l’idée que se fait Internet de ce qu’une famille pourrait être. Lorsqu’il aide à rédiger une lettre d’information familiale, il s’appuie sur les schémas de vos lettres précédentes, et non sur des modèles d’entreprise. Lorsqu’il répond à une question sur votre famille, il s’appuie sur les archives de votre famille, et non sur une moyenne statistique de toutes les familles.

Qui détient les clés

Jusqu’à présent, nous avons parlé des modèles que l’IA intègre. Mais comme l’expliquait l’article 1, l’IA n’est plus seulement un outil qui répond — c’est de plus en plus un outil qui agit. Et dès lors qu’une IA peut agir en votre nom, une deuxième différence entre l’IA des géants de la tech et l’IA familiale devient tout aussi importante que la première : qui détient les clés.

Lorsque vous laissez un agent d’une grande entreprise technologique faire quelque chose pour vous — réserver un lieu, répondre à un message, remplir un formulaire, gérer une liste —, vous lui confiez les clés : l’accès à vos données, parfois à vos comptes, et le pouvoir d’agir en votre nom. Ces actions se déroulent sur l’infrastructure de l’entreprise, selon ses règles, et ce sont les paramètres par défaut de l’entreprise qui déterminent les étapes. Si l’agent commet une erreur, vous ne vous en rendrez peut-être compte qu’une fois l’action terminée, car un agent agissant de son propre chef vous laisse moins de possibilités d’intervenir. Et si vous demandez « qui en est responsable ? », la réponse est véritablement obscure : vous avez défini un objectif en une phrase ; le système de l’entreprise a choisi comment le mettre en œuvre.

Village AI repose sur le principe inverse. Lorsqu’il intervient, il le fait au sein du cercle familial, sur une infrastructure dédiée à votre famille, selon les règles que votre famille a définies — et, point essentiel, son champ d’action est délibérément limité afin qu’une personne puisse toujours intervenir. Il rédigera, suggérera, organisera et triera ; il ne prendra pas discrètement des mesures lourdes de conséquences et irréversibles en votre nom sans qu’une personne soit mise au courant. Les clés restent entre les mains de votre famille. Nous décrivons exactement comment cela est mis en œuvre à l’article 3, et ce qui agit exactement en votre nom aujourd’hui à l’article 4.

Pour l’instant, le principe est simple : à l’ère des chatbots, la question était « quels schémas mon IA reproduit-elle ? » À l’ère des agents, vous devez également vous demander « qui tient les commandes — et puis-je les reprendre ? »

Guardian Agents : Les gardiens à la porte

Même une IA entraînée localement peut commettre des erreurs. Elle peut mélanger des détails, confondre deux événements ou générer une réponse qui semble correcte mais qui ne repose pas sur vos données réelles. C’est la nature même de la technologie : elle prédit un texte plausible, et « plausible » n’est pas synonyme de « exact ».

C’est là qu’interviennent les Guardian Agents.

Les Guardian Agents sont des couches de vérification indépendantes qui contrôlent chaque réponse de l’IA avant qu’elle ne parvienne au membre de la famille. Il ne s’agit pas d’une IA supplémentaire — ce sont des contrôles basés sur des mesures, structurellement distincts de l’IA qu’ils surveillent, de sorte que le surveillant ne partage pas les angles morts de ce qu’il surveille.

Voici comment cela fonctionne, en termes simples :

Le premier gardien prend la réponse de l’IA et mesure dans quelle mesure elle correspond au contenu réel des archives de votre famille. Il ne s’agit pas de savoir si cela semble correct, mais si elle est mathématiquement similaire aux documents réels. Si l’IA dit « Grand-père a déménagé à Wellington en 1962 », le gardien vérifie si les archives de votre famille contiennent effectivement cette information.

Le deuxième gardien décompose la réponse en affirmations individuelles et vérifie chacune d’entre elles séparément. Une réponse de l’IA peut contenir trois affirmations : deux exactes et une inventée. Le deuxième gardien détecte la fausse affirmation même lorsque la réponse globale semble convaincante.

Le troisième gardien surveille les schémas inhabituels au fil du temps : changements dans le comportement de l’IA, erreurs répétées, résultats qui s’approchent de limites définies. Il surveille la santé du système, et pas seulement les réponses individuelles.

Le quatrième gardien apprend grâce aux retours de votre famille. Lorsqu’un membre de la famille signale une réponse de l’IA comme inutile — un simple « pouce vers le bas » suffit —, le système examine ce qui n’a pas fonctionné, identifie la cause profonde et s’adapte. Les coordinateurs familiaux peuvent examiner et affiner ces corrections, mais l’apprentissage commence par les membres ordinaires de la famille. Au fil du temps, l’IA s’aligne de plus en plus sur les connaissances réelles de votre famille, et non l’inverse.

Chaque réponse de l’IA dans Village est accompagnée d’un indicateur de confiance qui indique au membre de la famille dans quelle mesure la réponse est fondée. Un niveau de confiance élevé signifie que le gardien a trouvé des correspondances solides dans vos archives. Un niveau de confiance faible signifie que la réponse est plus spéculative. Les membres peuvent remonter à la source de toute affirmation de l’IA — le document, le récit ou l’archive spécifique qui l’étaye.

Ce n’est pas une fonctionnalité offerte par l’IA des géants de la tech, car celle-ci ne s’appuie pas sur vos archives. Elle s’appuie sur Internet, et il n’existe aucun moyen pratique de vérifier des milliards de pages de données d’entraînement par rapport à une seule réponse.

Le compromis

Village AI est délibérément plus restreint que les grands systèmes commerciaux. Il n’est pas conçu pour écrire des sonnets, générer des images photoréalistes ou couvrir tous les sujets imaginables — et à l’ère des agents, l’étendue brute n’est pas vraiment l’essentiel. Le compromis qui importe n’est pas l’éloquence pour l’éloquence ; c’est la garde et le contrôle. Un système ciblé qui connaît votre famille, conserve vos données au sein de vos propres limites et reste responsable devant ceux qui le gèrent — et qui, lorsqu’il agit, n’intervient que là où une personne peut encore intervenir — a plus de valeur pour une famille qu’un système plus éblouissant qu’elle ne contrôle pas.

Ce qu’il offre à la place, c’est un système fidèle à votre famille — ses histoires, ses valeurs, sa façon de faire les choses —, avec la garantie que ses réponses s’appuient sur vos archives réelles plutôt que sur les tendances statistiques d’Internet.

Pour une famille qui a besoin d’aide pour préserver ses histoires, répondre à des questions sur son histoire familiale, organiser ses photos et ses documents, ou maintenir le lien entre tous ses membres malgré la distance et les générations — ce n’est pas une limitation. C’est précisément l’outil qu’il faut pour cela. Et lorsque cet outil agit plutôt que de se contenter de répondre, il le fait en laissant les rênes entre les mains de votre famille.

La question n’est pas « quelle IA est la plus puissante ? », mais « quelle IA est au service de ma famille — et qui en a le contrôle lorsqu’elle agit ? »

Vous souhaitez utiliser correctement et en toute sécurité des outils d’IA comme ceux-ci ? Nos cours gratuits — Travailler avec Claude et Les agents à l’œuvre — vous enseignent les compétences pratiques nécessaires. Pour découvrir l’architecture complète Guardian Agents qui sous-tend Village AI, consultez Village AI — Gouvernance agentique.