L'autre côté de la table

Agents at Work — CC BY 4.0

Jusqu’à présent, toutes les leçons se sont situées de votre côté de la table : votre agent, votre périmètre, votre test, votre responsabilité. Cette dernière leçon passe de l’autre côté, car il y a toujours quelqu’un là-bas : le candidat dont votre agent a lu le CV, le client dont il a trié la réclamation, le membre dont il a traité les données. Ils n’ont pas choisi votre outil. La plupart du temps, ils ne savent même pas qu’il a fonctionné. Et ce sont eux qui subissent les conséquences de ses décisions.

C’est le Pilier n° 4 — un produit au service de l’humanité — ramené à une seule personne. Le test vers lequel tout le cours a tendu n’est pas « l’agent peut-il faire cela ? », mais « cela améliore-t-il la situation de la personne de l’autre côté, ou me permet-il simplement d’en finir plus vite ? »

Ce que vous leur devez

Pas besoin d’un diplôme de droit pour énumérer ces devoirs ; la plupart ne sont que des règles de décence rendues plus concrètes par le fait qu’une machine est désormais impliquée.

• Qu’une personne, et pas seulement une machine, se trouve derrière une décision qui la concerne. C’est la « barrière humaine » vue de leur point de vue. Lorsque la décision de votre agent change la vie de quelqu’un — qu’il soit salarié ou non, approuvé ou non — cette personne a droit à un véritable jugement humain, et non à une décision automatique prise sans discernement. Vous saviez déjà que cela vous protège (Niveau 2). Cela les protège également, et c’est là l’essentiel.
• Que vous n’ayez pas saisi ses informations n’importe où sans précaution. Elle vous les a confiées — souvent sans en avoir le choix. Les coller dans un outil susceptible de les stocker ou de s’en servir pour l’apprentissage automatique, les envoyer à l’étranger sans réfléchir, laisser un agent les accumuler — ce sont là des violations de cette confiance avant même d’être des violations d’un principe.
• L’honnêteté quant à ce qui s’est passé. Si un processus assisté par l’IA a traité leur demande ou leur dossier, ce n’est pas un secret à garder. La transparence — le fait que l’IA ait été utilisée, selon quels critères, et qu’ils puissent demander qu’un humain réexamine le dossier — les traite comme des parties prenantes, et non comme des objets sur lesquels on a agi.
• Une porte vers un être humain. C’est le point le plus important de tous. Une personne concernée par une décision automatisée devrait pouvoir contacter un véritable être humain capable d’entendre « Je pense que cela ne me concerne pas » et d’agir en conséquence. Un agent sans possibilité de recourir à un être humain est un mur, et c’est derrière les murs que se cache l’injustice.

Pourquoi cela constitue-t-il le sujet principal, et non une simple note de bas de page ?

Revenez sur les différents niveaux et remarquez qu’ils aboutissent tous ici. Portée et privilège minimal — afin que l’agent ne puisse nuire à personne en accédant à des données dont il n’a jamais besoin. Des critères, pas des impressions — afin qu’une décision concernant une personne puisse lui être expliquée. Tests sans distinction d’identité et d’impact négatif — afin qu’il ne les exclue pas discrètement en raison de ce qu’ils sont. La loi — car ce sont leurs droits qu’elle protège. L’option souveraine — car leurs données méritent d’être préservées. Chaque discipline de ce cours est, en fin de compte, un devoir envers la personne qui ne s’est jamais assise devant votre clavier.

Créez des agents qui réussissent ce test et vous accomplirez la mission pour laquelle toute la trilogie a été conçue : non pas automatiser pour écarter les personnes, mais les garder — vous, et la personne de l’autre côté — fermement au cœur du processus.

La fiche d’une page — pour l’autre côté

Parce que chacun est, à un moment ou à un autre, la personne de l’autre côté de l’agent de quelqu’un d’autre, le cours comprend une page indépendante rédigée à son intention: « Quand une IA lit votre CV. » Ce qu’il faut supprimer avant de postuler, comment mettre en forme votre CV pour qu’une machine vous évalue de manière équitable, les trois questions à poser à un employeur, et vos droits réels. Lisez-la en tant que responsable du recrutement — c’est l’énoncé le plus percutant possible de ce que vous devez — et partagez-la en tant que citoyen. C’est le « koha » de la formation destiné à l’autre côté de la table.

Suivant

Le couronnement : rassemblez le tout dans un cahier des charges de déploiement pour un agent que vous construiriez réellement — et répondez, sur papier, à la question posée tout au long de ce cours. Qui en assume la responsabilité ?