Le risque lié à la gouvernance des comptes rendus de délibérations non souveraines
Ce module met en évidence le risque organisationnel. Lorsque les comptes rendus de délibération sont modifiables, difficiles à vérifier, dispersés entre différents fournisseurs ou soumis à des juridictions externes, l’organisation s’expose à une responsabilité réelle et croissante — même si aucun incident ne s’est encore produit. L’objectif est de nommer ces risques avec suffisamment de précision pour qu’un conseil d’administration puisse les identifier au sein de ses propres systèmes et les mettre en balance avec la commodité qui les a engendrés.
3.1 Les archives comme fondement probatoire de la légitimité
La plupart des organisations considèrent les comptes rendus de délibération comme des documents administratifs sans intérêt — un sous-produit des réunions destiné à être classé puis oublié. Or, dans la pratique, ces comptes rendus constituent la base probatoire de la légitimité institutionnelle. Ils sont le seul moyen permettant à une organisation de démontrer a posteriori qu’une décision a été prise dans le respect des procédures : que les éléments pertinents ont été pris en compte, que les opinions divergentes ont été entendues, que les conflits ont été gérés et que les approbations étaient authentiques. Si le compte rendu de la manière dont une décision a été prise peut être discrètement modifié, partiellement retrouvé ou s’avérer inauthentique, la capacité de l’organisation à démontrer qu’elle a suivi une procédure régulière s’en trouve affaiblie — et une légitimité qui ne peut être démontrée est, lorsqu’elle est remise en cause, impossible à distinguer d’une légitimité qui n’a jamais existé.
Points clés de l'enseignement
- Les comptes rendus de délibération font partie intégrante de l'environnement de contrôle; il ne s'agit pas simplement d'archives : c'est grâce à eux que l'organisation apporte la preuve que ses contrôles ont bel et bien fonctionné.
- Le fait de ne pas pouvoir démontrer le respect des procédures régulières constitue un motif de responsabilité, et non un moyen de défense ; dans les litiges, c'est systématiquement à l'organisation qu'il incombe de prouver qu'elle a respecté ses procédures, et non à la partie adverse de démontrer le contraire.
- La fiabilité d'un document dépend de ses propriétés — paternité, modifiabilité, exhaustivité, vérifiabilité — et non de la rigueur avec laquelle les personnes concernées estiment avoir agi.
Sujets de discussion
- Parmi les décisions prises par votre organisation, laquelle serait la plus difficile à défendre si l'on savait que le seul document disponible pouvait être modifié à l'insu de tous ?
- Dans quels domaines votre système de gouvernance repose-t-il actuellement sur la mémoire des personnes plutôt que sur des documents permettant d'en apporter la preuve ?
- Quelle est la différence concrète entre «nous avons agi correctement» et «nous pouvons prouver que nous avons agi correctement» ?
3.2 Cinq catégories de risques
Le risque lié à un registre de délibérations non souverain ne se résume pas à un seul danger, mais à un ensemble de risques distincts qui se cumulent. Les identifier séparément permet à un conseil d'administration d'évaluer chacun d'entre eux à l'aune de ses propres systèmes, plutôt que de se contenter d'un vague sentiment de malaise face au «cloud». Cinq catégories couvrent ce domaine.
- Intégrité — les enregistrements peuvent être modifiés, écrasés ou résumés sans que cela soit détectable ; aucune partie ne peut donc être certaine que l'enregistrement reflète fidèlement ce qui s'est réellement passé.
- Compétence — les données conservées sur des infrastructures sous contrôle étranger sont soumises aux lois étrangères et aux obligations des fournisseurs, y compris l'obligation de divulgation à laquelle l'organisation pourrait ne jamais avoir connaissance.
- Réutilisation de l'IA — les données sensibles issues des délibérations peuvent influencer le comportement des modèles de manière opaque lorsque l'architecture n'est pas souveraine, sans qu'il n'existe de limite fiable quant à leur utilisation en aval.
- Contestabilité — en l'absence de traces fiables, l'organisation ne peut pas retracer le raisonnement qui a conduit à une conclusion, ce qui rend les décisions impossibles à vérifier, à contester ou à défendre de manière adéquate.
- Confiance — les parties prenantes peuvent raisonnablement douter que le processus ait été équitable, exhaustif et fidèlement consigné, ce qui sape la confiance même lorsque la décision sous-jacente était fondée.
Ces risques se recoupent. Un problème de compétence peut se transformer en problème de réutilisation de l’IA ; une faille d’intégrité entraîne directement une faille de contestabilité ; et chacun de ces problèmes, dès lors qu’il est perçu par les parties prenantes, devient un problème de confiance. Dans le cadre d’une gouvernance assistée par l’IA, la question se pose avec encore plus d’acuité : il ne suffit pas de stocker les résultats finaux. Les organisations ont besoin de traces fiables des consignes données, des sources utilisées, des étapes de vérification effectuées et des validations accordées. Un enregistrement modifiable affaiblit à la fois la défendabilité juridique et la responsabilité éthique.
Lectures complémentaires
- Contrôleur européen de la protection des données — TechDispatch sur la blockchain — sur l'intégrité et la vérifiabilité en tant que propriétés de la protection des données, et dans quels cas elles sont utiles (ou non).
- ENISA — Ingénierie de la protection des données — des mesures techniques visant à garantir l'intégrité, la traçabilité et la responsabilité au sein des systèmes de données.
Sujets de discussion
- Parmi ces cinq risques, lequel est celui auquel votre organisation est actuellement la plus exposée — et lequel n'a-t-elle jamais évalué du tout ?
- Dans les domaines où l'IA vous aide aujourd'hui en matière de gouvernance, êtes-vous en mesure de fournir les consignes, les sources, les étapes de vérification et les validations qui sous-tendent un résultat donné, ou seulement le résultat lui-même ?
- Lequel de ces cinq risques devient existentiel lorsque la décision porte sur des droits, la légitimité culturelle, le financement public ou des actifs à long terme ?
Simulation de cas · Triage à cinq niveaux de risque
Pour chacun des systèmes d'enregistrement ci-dessous, indiquez où se situe réellement le risque principal. Il s'agit d'un triage, et non d'un verdict : l'objectif est d'identifier à laquelle des cinq catégories chaque système vous expose, afin que le conseil d'administration puisse mettre en balance cette exposition et la commodité qui en découle.
Auto-évaluation
1. Pourquoi les comptes rendus des délibérations sont-ils considérés comme la base probatoire de la légitimité ?
La légitimité remise en cause correspond à ce que l'organisation est en mesure de démontrer qu'il s'est produit — et le compte-rendu des délibérations constitue le support de cette preuve.
2. Quelle affirmation décrit le mieux le risque lié à la «réutilisation de l'IA» ?
En l'absence d'une architecture souveraine, il n'existe aucune limite fiable quant à la manière dont les données de délibération sont utilisées en aval.
3. Dans le cadre d’une gouvernance assistée par l’IA, il ne suffit pas de stocker le résultat final, car l’organisation a également besoin de…
La contestabilité et la responsabilité dépendent de la traçabilité du processus de formation du résultat, et non du résultat lui-même.