Maintenir le contrôle humain
Les règles qui garantissent la responsabilité d’un agent — intégrées, et non surveillées. Ce module présente la gouvernance au quotidien : comment l’autorité sur un agent s’exerce, que quelqu’un surveille ou non.
5.1 Le contrôle est structurel, pas une question de vigilance
On ne peut pas maintenir le contrôle humain en surveillant un agent à chaque instant ; personne n’a la capacité d’y prêter attention en permanence, et c’est justement au moment où l’on détourne le regard que cela compte le plus. Le contrôle doit être intégré au fonctionnement même de l’agent — afin que l’autorité humaine s’exerce, que quelqu’un surveille ou non.
5.2 La barrière
Le premier élément est une barrière : certaines actions — celles qui concernent des personnes, de l’argent ou tout ce qui est irréversible — sont toujours acheminées vers un humain, selon une règle que l’agent ne peut contourner. Il ne s’agit pas d’un paramètre pouvant être désactivé sous la pression, mais d’une limite intégrée à la structure. Un agent que l’on peut convaincre de dépasser ses propres limites n’est pas sous contrôle.
5.3 L’historique
Le deuxième élément est un journal : chaque étape effectuée par l’agent est consignée, afin que l’on puisse répondre ultérieurement à la question qui tranche tout litige et tout audit : qui a pris cette décision, sur quelle base et quand ? Une action dont on ne peut rendre compte a posteriori est une action sur laquelle on n’a jamais véritablement exercé de contrôle.
5.4 La constitution
Sous ces deux éléments se trouve un socle écrit — les éléments qui nécessitent toujours une intervention humaine, les limites qui ne doivent jamais être franchies — défini par vous et modifié uniquement de manière transparente, jamais par l’agent agissant en silence. La partie « apprentissage » de l’outil se situe en dessous de ce seuil. Lorsque vous modifiez une règle, vous modifiez la règle au grand jour, et non les rouages cachés de la machine.
5.5 Le terrain sur lequel il évolue
Un agent n’est responsable que dans la mesure où l’environnement sur lequel il fonctionne l’est lui-même. C’est l’infrastructure qui héberge vos données, et les règles auxquelles l’outil se soumet en dernier ressort, qui déterminent à qui il rend réellement des comptes. Quelle infrastructure, quelle juridiction, quelle IA ? Un outil hébergé sur le cloud d’un tiers rendra compte, en fin de compte, à ce tiers. Le contrôle ne se limite pas à la porte d’accès et aux données ; il concerne l’ensemble du système. Une formation qui omettrait cet aspect négligerait les fondements mêmes de la question.
Sujets de discussion
- Pour une tâche que vous confieriez à un agent, quelle est la règle qui doit toujours renvoyer vers un humain — et où se trouve le dossier si la décision est remise en question dans un an ?
- Quelles sont les conditions d’utilisation qui régissent les outils que vous utilisez déjà — et ces conditions pourraient-elles changer sans que vous ayez votre mot à dire ?
5.6 C’est cela, la gouvernance
Maintenir les humains aux commandes, c’est le visage quotidien de la gouvernance. Le cours complémentaire Village Governance Course approfondit les instruments mentionnés ici : l’historique sur lequel on peut s’appuyer, la constitution, la décision qui peut être justifiée a posteriori. Ces deux cours constituent les deux volets d’une même discipline. Le commandement ne consiste pas à contrôler chaque étape ; c’est l’autorité inhérente qui permet d’arrêter ce qui ne doit pas se poursuivre et de rendre compte de ce qui s’est produit.
Pour aller plus loin
- Le bouton « arrêt » ne suffit pas — pourquoi le commandement sur un agent doit être structurel, et non un simple bouton.
- Une tour de contrôle, pas une tour de guet — la forme de supervision qui tient réellement la route.
- Une gouvernance inviolable — le dossier sur lequel on peut s’appuyer a posteriori.
- Village Governance Course — le cours complémentaire sur le registre, la constitution et la décision vérifiable.
Des questions par rôle — et non par grade
Regroupées par rôle, et non par grade — et les rôles s’aplanissent : dans une petite entreprise, une personne en occupe souvent plusieurs, et dans une entreprise composée d’une seule personne et d’agents, une seule personne les occupe tous. Le commandement ne tient que si la porte, le registre et la parole sont visibles pour tous ceux que les actions de l’agent concernent.
(un conseil d’administration, les propriétaires — ou vous.) À quelle infrastructure, quelle juridiction et à quelles règles notre outil rend-il compte en dernier ressort — et qui fixe la limite écrite qu’il ne peut jamais franchir ?
(celui qui pilote le changement — ou vous.) Intégrez la barrière et l’historique dans le fonctionnement même de l’agent, et non dans une simple promesse de surveillance ; ne modifiez la constitution qu’en toute transparence.
(les chefs d’équipe — ou vous.) Pour chaque tâche que vous confieriez à un agent, quelle est la règle incontournable qui doit toujours renvoyer vers un humain — et où se trouverait la trace de cette action dans un an ?
(les personnes les plus proches de la tâche — y compris les nouvelles recrues.) Vous pouvez apporter votre contribution : signalez les cas où une limite fait défaut, ou ceux où l’agent pourrait être poussé à dépasser ses limites. Vous avez le droit de consulter : le registre indiquant qui a pris quelle décision, ainsi que les fondements qui sous-tendent votre travail.
Auto-évaluation
1. Pourquoi « on va garder un œil dessus » n’est-il pas un véritable contrôle ?
C’est au moment où vous détournez le regard que cela compte ; la barrière doit être intégrée au système.
2. À quoi sert cet enregistrement ?
Pour pouvoirUne action dont on ne peut rendre compte a posteriori est une action sur laquelle on n’a jamais véritablement eu le contrôle.
3. Pourquoi « l’infrastructure sur laquelle cela fonctionne » a-t-elle sa place dans un cours sur le contrôle ?
Le contrôle, c’est aussi savoir sur quelle infrastructure, quelle juridiction et quelles règles repose l’ensemble du système.