El otro lado de la mesa

Agents at Work — CC BY 4.0

Todas las lecciones hasta ahora se han centrado en tu lado de la mesa: tu agente, tu ámbito de actuación, tu prueba, tu responsabilidad. Esta última se traslada al otro lado, porque allí siempre hay alguien: el solicitante cuyo CV leyó tu agente, el cliente cuya queja clasificó, el miembro cuyos datos procesó. Ellos no eligieron tu herramienta. La mayoría ni siquiera sabe que se ejecutó. Y son ellos quienes asumen las consecuencias de lo que esta decidió.

Este es el Punto de referencia 4 —un producto al servicio de la humanidad— reducido a una sola persona. La prueba hacia la que se ha ido encaminando todo el curso no es «¿puede el agente hacer esto?», sino «¿esto mejora la situación de la persona que está al otro lado, o simplemente me permite terminar antes?».

Lo que les debes

No hace falta ser licenciado en Derecho para enumerar los deberes; la mayoría no son más que cuestiones de decencia que se concretan por el hecho de que ahora interviene una máquina.

• Que haya una persona, y no solo una máquina, detrás de una decisión que les afecta. Esta es la puerta humana vista desde su perspectiva. Cuando la decisión de tu agente cambia la vida de alguien —ya sea contratado o no, aprobado o no—, se le debe un juicio humano real, no una decisión mecánica tomada sin más. Ya sabías que esto te protege a ti (Nivel 2). También les protege a ellos, y ese es el quid de la cuestión.
• Que no hayas introducido su información en cualquier sitio sin cuidado. Te la confiaron —a menudo sin haberlo elegido—. Pegarla en una herramienta que podría almacenarla o entrenarse con ella, enviarla al extranjero sin pensarlo, dejar que un agente la acapare… todo eso son violaciones de esa confianza antes incluso de ser violaciones de un principio.
• Honestidad sobre lo ocurrido. Si un proceso asistido por IA ha intervenido en su solicitud o en su caso, eso no es un secreto que haya que ocultar. La transparencia —que se utilizó la IA, según qué criterios, y que pueden solicitar que un humano lo revise de nuevo— les trata como parte del proceso, no como un objeto sobre el que se ha actuado.
• Una vía de retorno a un ser humano. Lo más importante de todo. Una persona que reciba una decisión automatizada debería poder ponerse en contacto con un ser humano real que pueda escuchar «Creo que aquí se me ha equivocado» y hacer algo al respecto. Un agente sin vía de retorno a una persona es un muro, y los muros son donde se esconde la injusticia.

Por qué esto es el tema central del curso, y no una nota al pie

Repasa los niveles y fíjate en que todos convergen aquí. Ámbito de aplicación y privilegio mínimo: para que el agente no pueda perjudicar a nadie mediante un acceso que nunca ha sido necesario. Criterios, no impresiones: para que una decisión sobre una persona pueda explicársele a ella misma. Pruebas ciegas a la identidad y de impacto adverso: para que no las descarte silenciosamente por ser quienes son. La ley — porque sus derechos son lo que protege. La opción soberana — porque sus datos merecen protección. Cada disciplina de este curso es, al fin y al cabo, un deber para con la persona que nunca se ha sentado ante tu teclado.

Crea agentes que superen esa prueba y estarás haciendo aquello para lo que sirvió toda la trilogía: no automatizar hasta dejar a las personas fuera de escena, sino mantenerlas —a ti y a la persona al otro lado— firmemente en ella.

La página única —para el otro lado

Dado que todo el mundo es, en algún momento, la persona al otro lado del agente de otra persona, el curso incluye una página independiente escrita para ellos: «Cuando una IA lee tu CV». Qué eliminar antes de enviarlo, cómo darle formato para que una máquina te evalúe de forma justa, las tres preguntas que debes hacerle a un empleador y cuáles son tus derechos reales. Léelo como responsable de la implementación —es la exposición más clara posible de lo que debes— y compártelo como ciudadano. Es el koha del curso dirigido al otro lado de la mesa.

Siguiente

La culminación: reúne todo en un informe de implementación para un agente que crearías de verdad — y responde, por escrito, a la pregunta que se ha planteado a lo largo de todo el curso. ¿Quién responde por ello?