Toutes les éditions · Business Edition

Your Community, Your AI — CC BY 4.0

L’IA des géants de la tech face à l’IA de votre entreprise — Pourquoi cette différence est importante

Où l’IA des géants de la tech apprend ses bonnes manières

Imaginez que vous éleviez un enfant dans un foyer où les seuls livres disponibles seraient des brochures marketing, des débats sur les réseaux sociaux et Wikipédia. Cet enfant serait éloquent, cultivé dans un certain sens, et capable de rédiger avec aisance sur presque n’importe quel sujet. Mais il aurait une vision particulière du monde — façonnée par le commerce, sensible aux controverses, et s’exprimant avec assurance, quelle que soit la profondeur de ses propos. Il saurait se donner un air d’autorité sans pour autant faire preuve de sagesse.

C’est, en gros, ainsi que sont « élevés » les systèmes d’IA des géants de la tech.

Les systèmes d’IA les plus connus de ces géants — les grands chatbots commerciaux et, désormais, les agents qui s’appuient sur eux — sont entraînés à partir d’énormes quantités de textes extraits d’Internet. Des milliards de pages. Il en résulte un système capable de discuter de presque tout — mais dont les paramètres par défaut, les hypothèses et les instincts sont façonnés par ce que l’Internet surreprésente.

Internet surreprésente :

• Les contenus en anglais (et, au sein de l’anglais, l’anglais américain)
• Le langage commercial et marketing
• Le cadre de référence individualiste (« ce qui est le mieux pour vous »)
• La culture et la terminologie des start-ups de la Silicon Valley
• Un discours technique et professionnel orienté vers les grandes entreprises
• Des contenus datant des vingt dernières années, avec une profondeur historique limitée

Internet sous-représente :

• La culture d’entreprise et les cadres juridiques européens
• Les traditions de gouvernance coopérative et mutualiste
• Le commerce fondé sur des relations à long terme
• Le fonctionnement et la prise de décision des petites entreprises
• Les pratiques de traitement des données conformes au RGPD
• L’histoire réelle, les personnes et les processus de votre organisation

Lorsqu’un membre de votre équipe interroge un système d’IA d’une « Big Tech » sur la manière de traiter la réclamation d’un client, celui-ci se réfère aux manuels américains de service client — non pas parce qu’il a jugé cette approche supérieure, mais parce que c’est ce qui domine ses données d’entraînement. Il ne s’appuie pas sur les procédures de traitement des réclamations de votre organisation, sur l’historique de votre relation avec ce client, ni sur le cadre européen de protection des consommateurs auquel vous êtes soumis, car ces schémas sont statistiquement rares dans les données à partir desquelles il a appris.

Il ne s’agit pas d’un défaut pouvant être corrigé par de meilleures instructions. C’est un problème structurel. Le caractère du système est déterminé par son éducation, et son éducation, c’est Internet.

Que signifie réellement « formé localement » ?

Village AI fonctionne différemment, et cette différence ne tient pas au fait qu’il soit plus petit ou moins performant. La différence réside dans la source à partir de laquelle l’IA apprend ses modèles. (Tout terme inconnu dans cette série est défini en langage simple dans le glossaire.)

Un Village AI destiné à votre entreprise est formé sur trois niveaux de contenu :

La couche « plateforme ». Il s’agit de la base : comment fonctionne la plateforme Village, quelles fonctionnalités sont disponibles, comment naviguer dans le système. Tous les Village partagent cette couche. Cela signifie que l’IA peut aider un nouveau membre de l’équipe à s’y retrouver, lui expliquer comment déclarer une note de frais ou rejoindre un appel vidéo, sans qu’il soit nécessaire de lui enseigner ces bases à partir de zéro.

La couche organisationnelle. C’est ce qui fait de votre Village le vôtre. L’IA apprend à partir du contenu que votre organisation a réellement créé : mises à jour de l’équipe, rapports de projet, documents publiés par votre conseil d’administration, supports destinés aux clients que vous avez produits. Lorsqu’un membre de l’équipe demande « Qu’a-t-on décidé lors de la réunion du conseil d’administration du mois dernier ? », l’IA peut répondre en s’appuyant sur les archives de votre organisation, et non sur une supposition basée sur ce à quoi ressemblent généralement les réunions de conseil d’administration sur Internet.

Consentement à chaque étape. Aucun contenu n’est intégré à l’entraînement de l’IA sans autorisation explicite. Un membre de l’équipe qui partage une mise à jour interne peut choisir si ce contenu est inclus dans les connaissances de l’IA. Le contenu marqué comme confidentiel reste confidentiel — de manière structurelle, et pas seulement par la politique de l’entreprise. L’IA ne peut pas accéder à ce qui ne lui a jamais été donné.

Il en résulte un système qui connaît votre organisation — et non l’idée que se fait Internet d’une petite entreprise. Lorsqu’elle aide à rédiger une communication destinée à un client, elle s’appuie sur les schémas de votre correspondance antérieure, et non sur des modèles d’entreprise génériques. Lorsqu’elle répond à une question concernant votre entreprise, elle s’appuie sur vos dossiers, et non sur une moyenne statistique de toutes les entreprises.

Qui détient les clés

Jusqu’à présent, nous avons parlé des modèles que l’IA intègre. Mais comme l’expliquait l’article 1, l’IA n’est plus seulement un outil qui répond — c’est de plus en plus un outil qui agit. Et dès lors qu’une IA peut agir en votre nom, une deuxième différence entre l’IA des géants de la tech et un système que vous contrôlez devient tout aussi importante que la première : qui détient les clés.

Lorsque vous laissez un agent d’une grande entreprise technologique faire quelque chose pour vous — rapprocher une facture, répondre à la demande d’un client, remplir une déclaration, gérer une liste —, vous lui confiez les clés : l’accès à vos données, parfois à vos comptes et à vos systèmes, ainsi que le pouvoir d’agir en votre nom. Ces actions se déroulent sur l’infrastructure de l’entreprise, selon ses règles, et ce sont les paramètres par défaut de l’entreprise qui déterminent les étapes. Si l’agent commet une erreur, vous ne le découvrirez peut-être qu’une fois l’action terminée, car un agent agissant de son propre chef vous laisse moins de possibilités d’intervenir. Et si vous demandez « qui en est responsable ? », la réponse est véritablement obscure : vous avez défini un objectif en une phrase ; le système de l’entreprise a choisi comment le mettre en œuvre. Pour une organisation qui reste le responsable du traitement au sens du RGPD, cela constitue un risque, et non une commodité.

Village AI repose sur le principe inverse. Lorsqu’il intervient, c’est à l’intérieur des limites de votre organisation, sur une infrastructure située au sein de l’UE, selon les règles que votre organisation définit — et, point crucial, son champ d’action est délibérément limité afin qu’une personne puisse toujours intervenir. Il rédigera, suggérera, organisera et triera ; il ne prendra pas discrètement des mesures lourdes de conséquences et irréversibles en votre nom sans qu’un être humain soit mis au courant. Les clés restent entre les mains de votre organisation. Nous décrivons exactement comment cela est mis en œuvre à l’article 3, et précisément ce qui agit en votre nom aujourd’hui à l’article 4.

Pour l’instant, le principe est simple : à l’ère des chatbots, la question était « quels schémas mon IA reproduit-elle ? » À l’ère des agents, vous devez également vous demander « qui tient les commandes — et puis-je en reprendre le contrôle ? »

Ce que cela signifie pour Slack, Teams et Google Workspace

De nombreuses petites entreprises et coopératives s’appuient actuellement sur une combinaison de Slack ou Microsoft Teams pour la communication, de Google Workspace ou Microsoft 365 pour les documents et les e-mails, et peut-être d’un CRM, d’un outil de facturation et d’une plateforme de gestion de projet distincts. Il est important de comprendre ce que cela implique dans le contexte de l’IA.

Vos données résident sur leur infrastructure, selon leurs conditions d’utilisation. Lorsque vous rédigez une proposition client, discutez d’une question sensible liée aux ressources humaines ou gérez un agenda dans l’une de ces suites, ce contenu se trouve sur les serveurs du fournisseur, régi par des conditions que vous acceptez sans les négocier et que le fournisseur peut modifier. Ce qui peut en être fait — y compris la manière dont ces données alimentent les fonctionnalités d’IA désormais intégrées à ces produits — est défini par ces conditions, et non par vous. Et les assistants IA intégrés à ces suites fonctionnent en analysant vos e-mails, vos documents et vos discussions : cet accès est indispensable à leur fonctionnement.

Vous ne pouvez pas choisir les valeurs de l’IA. Lorsque Microsoft Copilot résume l’historique des discussions de votre équipe, il applique les politiques de contenu de Microsoft. Lorsque l’IA de Google suggère des modifications à votre document, elle reflète les priorités de formation de Google. Vous ne disposez d’aucun moyen d’indiquer à ces systèmes ce qui importe à votre organisation — quel ton adopter, quelle terminologie est appropriée, quels sujets nécessitent un jugement humain plutôt qu’une réponse automatisée.

La conformité au RGPD relève de votre responsabilité, pas de la leur. En vertu du Règlement général sur la protection des données, votre organisation est le responsable du traitement des données. Si les données à caractère personnel d’un client sont traitées par un système d’IA hébergé sur une infrastructure américaine, il vous incombe de vous assurer que ce traitement est licite. La charge de la preuve vous incombe, et non au fournisseur de la plateforme. Leurs accords de traitement des données peuvent limiter votre responsabilité, mais ils ne l’éliminent pas — et ils ne vous donnent certainement pas le contrôle.

Village se distingue par son architecture. Vos données restent sur une infrastructure européenne. L’IA est entraînée sur votre contenu, et non sur Internet. Aucune donnée ne quitte les limites de votre organisation sans action explicite de votre part. Et le comportement de l’IA est régi par les règles que votre organisation définit — et non par la politique de contenu d’une entreprise de la Silicon Valley.

Guardian Agents : Les gardiens à la porte

Même une IA entraînée localement peut commettre des erreurs. Elle peut mal se souvenir d’un détail, confondre deux projets ou générer une réponse qui semble correcte mais qui ne repose pas sur vos dossiers réels. C’est la nature même de cette technologie : elle prédit un texte plausible, et « plausible » n’est pas synonyme de « précis ».

C’est là qu’interviennent les Guardian Agents.

Les Guardian Agents sont des couches de vérification indépendantes qui contrôlent chaque réponse de l’IA avant qu’elle ne parvienne au membre de l’équipe. Il ne s’agit pas d’une IA supplémentaire, mais de contrôles basés sur des mesures, structurellement distincts de l’IA qu’ils surveillent ; ainsi, le surveillant ne partage pas les angles morts de ce qu’il surveille.

Voici comment ils fonctionnent, en termes simples :

Le premier gardien prend la réponse de l’IA et mesure dans quelle mesure elle correspond au contenu réel des archives de votre organisation. Il ne s’agit pas de savoir si cela semble correct, mais si elle est mathématiquement similaire aux documents réels. Si l’IA déclare : « Le conseil d’administration a approuvé le nouveau contrat avec le fournisseur en septembre », le gardien vérifie si les procès-verbaux de votre conseil d’administration contiennent effectivement une décision concernant les contrats avec les fournisseurs en septembre.

Le deuxième gardien décompose la réponse en affirmations individuelles et vérifie chacune d’entre elles séparément. Une réponse de l’IA peut contenir trois affirmations : deux exactes et une inventée. Le deuxième gardien détecte la fausse affirmation même lorsque la réponse globale semble convaincante.

Le troisième gardien surveille les schémas inhabituels au fil du temps : changements dans le comportement de l’IA, erreurs répétées, résultats qui s’approchent de limites définies. Il surveille la santé du système, et pas seulement les réponses individuelles.

Le quatrième gardien apprend à partir des retours de votre équipe. Lorsqu’un membre de l’équipe signale une réponse de l’IA comme inutile — un simple « pouce vers le bas » suffit —, le système examine ce qui n’a pas fonctionné, identifie la cause première et s’ajuste en conséquence. Les responsables peuvent examiner et affiner ces corrections, mais l’apprentissage commence avec les membres ordinaires de l’équipe. Au fil du temps, l’IA s’aligne de plus en plus sur les connaissances réelles de votre organisation, et non l’inverse.

Chaque réponse de l’IA dans Village est accompagnée d’un indicateur de confiance qui indique au membre de l’équipe dans quelle mesure la réponse est fondée. Un niveau de confiance élevé signifie que le « gardien » a trouvé des correspondances solides dans vos archives. Un niveau de confiance faible signifie que la réponse est plus spéculative. Les membres de l’équipe peuvent remonter à la source de toute affirmation de l’IA — le document, le rapport ou l’archive spécifique qui l’étaye.

Ce n’est pas une fonctionnalité offerte par l’IA des géants de la tech, car celle-ci ne s’appuie pas sur vos archives. Elle s’appuie sur Internet, et il n’existe aucun moyen pratique de vérifier des milliards de pages de données d’entraînement par rapport à une seule réponse.

Le compromis

Village AI est délibérément plus restreint que les grands systèmes commerciaux. Il n’est pas conçu pour écrire des sonnets, générer des images photoréalistes ou couvrir tous les sujets imaginables — et à l’ère des agents, l’étendue brute n’est pas vraiment l’objectif. Le compromis qui importe n’est pas l’éloquence pour l’éloquence ; c’est la garde et le contrôle. Un système ciblé qui connaît votre organisation, conserve vos données au sein de vos propres limites et reste soumis à votre gouvernance — et qui, lorsqu’il agit, n’intervient que là où un humain peut encore intervenir — a plus de valeur pour une entreprise qu’un système plus éblouissant qu’elle ne contrôle pas.

Ce qu’il offre à la place, c’est un système fidèle à votre organisation — son contenu, ses valeurs, sa gouvernance —, avec la garantie que ses réponses s’appuient sur vos données réelles plutôt que sur les tendances statistiques d’Internet.

Pour une entreprise qui a besoin d’aide pour rédiger des communications clients, répondre aux questions de l’équipe sur les processus internes, résumer les comptes-rendus du conseil d’administration, gérer les données CRM ou organiser les informations relatives aux projets — ce n’est pas une limitation. C’est précisément l’outil qu’il faut pour cette tâche. Et lorsque cet outil agit plutôt que de se contenter de répondre, il le fait en laissant les rênes entre les mains de votre organisation.

La question n’est pas « quelle IA est la plus puissante ? », mais « quelle IA sert les intérêts de mon organisation — et qui en a le contrôle lorsqu’elle agit ? »

Vous souhaitez utiliser efficacement et en toute sécurité des outils d’IA comme ceux-ci ? Nos formations gratuites — Travailler avec Claude et Les agents au travail — vous enseignent les compétences pratiques nécessaires. Pour découvrir l’architecture complète Guardian Agents qui sous-tend Village AI, consultez Village AI — Gouvernance agentique.