Toutes les éditions · Leadership Edition

Your Community, Your AI — CC BY 4.0

Qu'est-ce que l'IA, réellement (et ce qu'elle n'est pas)

L’IA a évolué pendant que vous réfléchissiez

Vous avez sans doute entendu affirmer que l’intelligence artificielle allait transformer les services publics, la gouvernance locale et le fonctionnement des organisations. Vous avez peut-être également entendu dire qu’on en exagérait l’importance, ou qu’elle n’était pas capable d’apporter véritablement quelque chose de nouveau. Ces deux positions passent à côté de l’essentiel, et comprendre pourquoi permettra de prendre de meilleures décisions en matière de gouvernance.

Mais il y a un point préalable que tout conseil d’administration ou conseil municipal devrait prendre en compte : l’IA a considérablement évolué, même pendant la période où les organisations débattaient de l’opportunité de l’adopter.

Il y a un an, lorsque la plupart des gens parlaient d’« IA », ils faisaient référence à un chatbot — un système auquel on posait une question et qui renvoyait un texte. On demandait, il répondait. Aujourd’hui, le centre de gravité s’est déplacé. Les systèmes qui attirent le plus l’attention et les investissements ne sont plus seulement des chatbots qui répondent. Ce sont des agents qui agissent : ils remplissent des formulaires, envoient des communications, naviguent et effectuent des transactions sur le web, utilisent d’autres logiciels et poursuivent des objectifs en plusieurs étapes avec une supervision limitée.

Cette évolution est l’élément le plus important à comprendre pour un organe de gouvernance, car elle modifie le profil de risque lié à l’adoption de l’IA. Pour analyser l’IA aujourd’hui, il faut distinguer deux concepts :

• Le moteur — le modèle sous-jacent, le composant qui génère le langage.
• L’agent — le moteur mis en œuvre, configuré pour pouvoir agir dans le monde au nom de l’organisation.

Le moteur a gagné en capacités. Mais le changement qui en découle pour tout organisme soumis à un devoir de diligence réside dans ce qui est désormais construit autour du moteur. Examinons chacun de ces éléments tour à tour. (Tout terme peu familier utilisé dans cette série — moteur, agent, modèle de raisonnement et les autres — est défini en langage clair dans le glossaire.)

Le moteur : une machine qui prédit

Voici la description la plus simple de ce que fait le moteur : il prédit quel mot devrait suivre.

Lorsqu’une personne saisit une requête dans un chatbot, le système ne raisonne pas sur cette requête de la même manière qu’un conseiller municipal ou un administrateur raisonnerait sur un document de conseil. Il effectue une tâche plus mécanique. On lui a présenté des milliards de pages de texte — textes législatifs, rapports, correspondance, documents techniques, articles de presse, réseaux sociaux, littérature médicale — et, à partir de tout ce matériel, il a appris à reconnaître des schémas. Lorsque vous lui posez une question, il génère une réponse en prédisant, mot après mot, à quoi pourrait ressembler une réponse plausible en se basant sur tout ce qu’il a traité auparavant.

C’est véritablement utile. Un système qui a assimilé les schémas récurrents de milliards de pages de texte peut aider à rédiger de la correspondance, à résumer des documents volumineux, à répondre à des questions factuelles ou à suggérer comment formuler une communication délicate. Ce sont là de réelles capacités, qui peuvent alléger la charge administrative.

Mais fondamentalement, le moteur effectue une reconnaissance de modèles à une échelle extraordinaire. Ce simple fait explique à la fois son utilité considérable et la manière caractéristique dont il échoue — un thème récurrent dans cette série.

Le moteur est-il capable de raisonner ?

Il existe une question plus profonde sur laquelle les chercheurs se penchent activement, et la réponse simple est : nous ne le savons pas encore.

Lorsque les premiers systèmes d’IA produisaient des textes fluides, il était raisonnable de les décrire comme des systèmes sophistiqués de reconnaissance de motifs et de s’en tenir là. Mais une nouvelle génération de moteurs — souvent qualifiés de modèles « de raisonnement » ou « pensants » — fonctionne différemment. Plutôt que de répondre immédiatement, ils traitent un problème par étapes, produisant une chaîne visible de raisonnements intermédiaires avant de s’engager sur une réponse, et consacrant plus de temps aux problèmes les plus difficiles. Les résultats peuvent être saisissants : en 2025, les systèmes de raisonnement de plusieurs grands laboratoires ont résolu des problèmes issus des Olympiades internationales de mathématiques — l’un des concours de mathématiques les plus difficiles au monde — à un niveau équivalent à celui d’un médaillé d’or humain.

S’agit-il donc de raisonnement, ou d’une reconnaissance de motifs très sophistiquée qui s’apparente au raisonnement ?

La question reste véritablement ouverte, et les chercheurs sérieux sont en désaccord. Une étude influente de 2025 a soutenu que ces systèmes présentaient une « illusion de pensée » — s’enlisant face à certaines énigmes d’une manière dont un véritable raisonneur ne le ferait pas. Plusieurs réponses tout aussi sérieuses ont avancé le contraire. Le verdict actuel le plus prudent est que les modèles de raisonnement d’aujourd’hui ne sont ni de véritables raisonneurs, ni de simples perroquets — ils constituent quelque chose de véritablement nouveau qui n’est pas encore pleinement compris. Quiconque vous affirme de manière catégorique que l’IA est capable ou incapable de raisonner exagère ce que les preuves permettent d’étayer.

Une de ces conclusions a une pertinence directe en matière de gouvernance, et elle est facilement mal interprétée. Lorsque ces systèmes affichent leur « raisonnement », cette chaîne visible ne reflète pas de manière fiable ce qui a réellement conduit à la réponse. Les chercheurs ont constaté à maintes reprises que le raisonnement déclaré d’un modèle peut omettre les véritables influences sur sa conclusion — non pas par malhonnêteté (le système n’a pas d’intention), mais parce que les mots affichés sont eux-mêmes du texte prédit, et non le reflet fidèle d’un processus interne. Conséquence pratique pour un organe de gouvernance : vous ne pouvez pas vous acquitter d’une mission de surveillance en vous contentant de lire l’explication que l’IA fournit d’elle-même. La responsabilité exige de vérifier le résultat par rapport aux propres registres de l’organisation — et non de se fier au rapport d’auto-évaluation du système. Nous y reviendrons à l’article 3, et cela a une incidence directe sur les attentes relatives au « droit à une explication » prévues par le RGPD et la loi européenne sur l’IA.

Ce que l’on peut affirmer avec certitude, c’est que la progression est fulgurante. Il y a quelques années, ces systèmes parvenaient à peine à produire un paragraphe cohérent. Aujourd’hui, ils rédigent des essais, réussissent des examens professionnels, génèrent du code informatique et agissent de plus en plus sur le monde au lieu de se contenter de le décrire. Leurs capacités seront encore plus grandes d’ici quelques années.

« L’IA ne peut rien faire de nouveau » — Tout dépend de ce que l’on entend par « nouveau »

Ceux qui rejettent l’IA en affirmant qu’elle ne peut rien créer d’original avancent un argument qui n’est vrai qu’au sens strict et largement trompeur.

Un modèle linguistique ne peut pas tirer son origine de l’expérience. Il n’a jamais assisté à une consultation publique où les habitants étaient en colère. Il n’a jamais ressenti le poids d’une décision de financement qui affecte le bien-être d’une communauté. Il ne peut pas comprendre pourquoi la formulation précise d’une résolution du conseil municipal a de l’importance — il ne peut que reproduire des schémas qui, statistiquement, ressemblent à de la compréhension. En ce sens, tout ce qu’il produit est une recombinaison d’éléments assimilés pendant son apprentissage.

Mais réfléchissons à ce que signifie « recombinaison » à cette échelle. Personne n’a lu l’intégralité de la législation relative aux collectivités locales, de tous les rapports annuels des fondations communautaires, de tous les articles universitaires sur la gouvernance participative et de toutes les analyses d’impact réglementaire de la dernière décennie. Lorsque l’IA établit un lien entre la théorie de la gouvernance polycentrique et la pratique du développement communautaire, ce lien peut être véritablement novateur pour tout lecteur individuel, même si ces deux idées existaient séparément. Les atomes ne sont pas nouveaux, mais les molécules le sont.

Ainsi, l’affirmation « l’IA ne peut rien faire de nouveau » est vraie au niveau de la création et fausse au niveau de la synthèse. Ces deux aspects sont importants, et une gouvernance responsable de cette technologie exige de tenir compte des deux.

De la réponse à l’action : l’agent

C’est le changement qui a le plus d’incidence sur la gouvernance.

Pendant la majeure partie de l’ère des chatbots, le pire qu’une IA pouvait faire directement était de renvoyer une mauvaise réponse. Le préjudice ne se concrétisait que si une personne agissait en conséquence : envoyait une lettre trompeuse, se fiait à un chiffre erroné, transmettait un conseil erroné. Un humain se trouvait toujours entre la machine et la conséquence.

Un agent élimine délibérément cet être humain de la chaîne.

Un agent IA est un moteur intégré dans ce que les chercheurs appellent un « échafaudage » : une mémoire permettant de suivre une tâche, l’accès à un navigateur web, la capacité à utiliser des logiciels et d’autres outils, ainsi qu’un objectif formulé en langage clair. Grâce à ce « scaffolding », le système poursuit son objectif à travers de nombreuses étapes avec beaucoup moins de supervision : il recherche, décide, agit, vérifie, puis agit à nouveau. Un chatbot répond. Un agent agit.

Pour un conseil d’administration, c’est précisément là que l’évaluation des risques change. Lorsqu’un système agit de manière autonome, il y a moins de moments où un humain peut intervenir ; certaines actions sont irréversibles ; et lorsqu’un agent agit au nom de l’organisation et que le résultat est erroné, il devient véritablement difficile d’attribuer la responsabilité — entre le dirigeant qui a fixé l’objectif, le fournisseur dont le système a choisi les étapes, et l’instance qui a autorisé son utilisation. Les chercheurs décrivent le « vide de responsabilité » qui en résulte et la « zone de déformation morale », dans laquelle la responsabilité retombe sur l’humain le plus proche bien que cette personne n’ait exercé que peu de contrôle réel. Ce n’est pas un aspect accessoire de la réglementation : l’insistance de la loi européenne sur l’IA sur une supervision humaine significative constitue, en effet, une exigence légale visant à ce que cette boucle ne soit pas fermée sans qu’une personne soit en mesure d’intervenir. Un organe de gouvernance qui évalue un système agentique évalue précisément cela : si la supervision est structurelle ou simplement promise.

Le véritable enjeu : à qui appartiennent les modèles, et qui tient les commandes ?

C’est là que cela devient concret pour votre organisation.

Lorsqu’un grand moteur d’IA est entraîné sur Internet, il absorbe les biais, les a priori et les normes culturelles par défaut du web. Internet est en grande majorité anglophone, occidental, à vocation commerciale et façonné par les valeurs de l’industrie technologique. Il ne s’agit pas d’une conspiration — c’est simplement ce qui se produit lorsqu’un système est entraîné à partir de données qui représentent de manière disproportionnée une seule culture et un seul ensemble de priorités.

Les conséquences sont subtiles mais concrètes. Lorsqu’un habitant soumet une requête concernant un conflit de voisinage épineux, le système se réfère par défaut au langage des droits individuels et des recours juridiques — car c’est ce qui domine ses données d’entraînement — plutôt qu’à la médiation, aux obligations communautaires ou à une vision à long terme. Lorsqu’un agent municipal lui demande de rédiger une communication sur une question d’urbanisme sensible, il recourt au langage de la gestion des parties prenantes en entreprise, car la correspondance commerciale est largement plus nombreuse que la communication civique dans les données à partir desquelles il a appris.

Le système n’est pas hostile aux valeurs civiques. Il ne les connaît tout simplement pas. Il sait ce qui est statistiquement courant, et ce qui est statistiquement courant n’est pas nécessairement ce qui convient le mieux à vos administrés.

À l’ère des chatbots, ce biais a façonné le texte examiné par un agent. À l’ère des agents, ce même biais façonne les actions menées au nom de l’organisation — communications envoyées, dossiers classés, engagements pris — potentiellement avant même qu’un agent ne les examine. La question de la gouvernance comporte donc désormais deux volets : quels schémas le système reproduit-il, et qui détient les commandes lorsqu’il agit ?

Pourquoi cela importe aujourd’hui pour les instances de gouvernance

Personne ne sait avec certitude ce qui se passerait si un système d’IA venait un jour à développer quelque chose ressemblant à sa propre intention — des objectifs qui pourraient ne pas correspondre aux intérêts des communautés qu’il sert. Nous sommes probablement encore loin de ce seuil. Mais l’architecture adoptée aujourd’hui, ainsi que les pratiques de gouvernance mises en place dès à présent, détermineront si une organisation est préparée ou si elle se rendra compte trop tard qu’elle a cédé le contrôle sans s’en apercevoir.

Il ne s’agit pas là de spéculation. C’est une simple observation concernant la préparation institutionnelle. Votre conseil municipal dispose d’une charte. Votre conseil d’administration dispose d’un règlement intérieur. Votre fondation dispose d’un document constitutif. Ces textes existent non pas parce que chaque réunion dégénère en chaos, mais parce que les structures de gouvernance doivent être en place avant d’être nécessaires, et non après.

Le même principe s’applique à l’IA, et la loi européenne sur l’IA (règlement 2024/1689) reflète précisément cette logique : établir des cadres de gouvernance avant que la technologie ne devance la capacité réglementaire. L’arrivée des systèmes agents fait monter les enjeux : une organisation qui adopte une IA capable d’agir, sans supervision structurelle en place, pourrait se retrouver dans l’incapacité de rendre compte des décisions prises en son nom — une situation délicate sur le plan fiduciaire et exposée sur le plan juridique.

Deux voies à suivre

Une organisation peut aborder l’IA de deux manières.

La première voie consiste à utiliser l’IA des géants de la tech — des systèmes tels que ChatGPT, Google Gemini ou Microsoft Copilot, et de plus en plus les agents construits à partir de ceux-ci. Ces outils sont puissants, pratiques et souvent peu coûteux. Mais ils s’accompagnent de conditions. Vos données sont acheminées vers leurs serveurs. Vos communications — et désormais les actions de votre agent — transitent par des systèmes que vous ne contrôlez pas. Le comportement de l’IA est régi par les politiques de l’entreprise, qui peuvent évoluer sans votre accord. Et les modèles qu’elle intègre sont définis par ses données d’entraînement, sur lesquelles vous n’avez aucune influence. Au regard du RGPD, cela soulève des questions relatives à la responsabilité du traitement des données, à la base légale du traitement et au droit à une explication, que tout organe de gouvernance devrait résoudre avant l’adoption — des questions qui s’aiguisent, et non s’atténuent, lorsque le système agit de manière autonome.

La deuxième voie consiste à utiliser une IA contrôlée par votre organisation. Un système plus ciblé, formé sur votre contenu, fonctionnant sur une infrastructure relevant de votre juridiction, régi par des règles fixées par votre conseil d’administration ou votre conseil municipal. Un système qui sait faire la différence entre un procès-verbal de conseil et un article de blog, car les archives de votre organisation le lui ont appris. Un système dont les réponses sont recoupées avec vos documents réels par des couches de vérification fonctionnant indépendamment de l’IA — et dont la capacité à agir est délibérément limitée, afin qu’un humain responsable devant vos administrés puisse toujours intervenir.

C’est ce qu’est Village AI. Ce n’est pas le système d’IA le plus puissant qui soit. Il est conçu pour rendre des comptes à votre communauté — vis-à-vis de votre contenu, de vos valeurs et de votre cadre de gouvernance — et pour que l’autorité reste entre les mains de ceux qui la détiennent lorsque l’IA passe de la simple réponse à l’action.

L’article suivant explique en quoi Village AI se distingue structurellement de l’IA des géants de la tech, et pourquoi cette différence importe davantage que la puissance brute.

Vous souhaitez utiliser des outils d’IA comme ceux-ci de manière efficace et en toute sécurité ? Nos formations gratuites — Travailler avec Claude et Agents at Work — vous enseignent les compétences pratiques nécessaires, qu’il s’agisse d’obtenir des réponses fiables ou de décider quelles tâches confier à un agent. Pour découvrir l’architecture technique complète de Village AI, consultez Village AI — Gouvernance agentique.