Lo primero: la cuestión de los datos

Agents at Work — CC BY 4.0

Hay un hábito que te ayuda más a evitar problemas que cualquier otra cosa de este curso, y debe situarse al principio mismo de la creación de un agente, no al final. Antes de pensar en lo que hará el agente, pregúntate con qué va a interactuar: ¿de quién son los datos en juego?, ¿adónde van y quién puede acceder a ellos una vez que salen de tus manos? Esta es la parte crucial del Ancla 3 —de quién son los datos y quién tiene la última palabra — y es el único hábito que más problemas me ha ahorrado.

Ya conocerás esta pregunta de «Trabajar con Claude »: la cuestión de la custodia, que hay que plantearse antes de introducir nada en un chatbot. Los agentes le dan mayor importancia, por dos razones.

Por qué un agente sube la apuesta

En primer lugar, un agente no solo ve lo que le pasas. Si lo conectas a tus sistemas —la unidad compartida, la bandeja de entrada, la base de datos de clientes—, puede acceder a datos por sí mismo, mucho más de lo que jamás pegarías a mano. Todo lo que conectes es el radio de acción.

En segundo lugar, actúa sin supervisión. Cuando pegas un CV en un asistente, al menos estás ahí presente. Un agente que revisa las solicitudes durante la noche está manejando la información personal de otras personas mientras nadie mira. La cuestión de la custodia deja de ser una comprobación puntual en el teclado y pasa a ser una característica de todo el sistema: ¿a qué puede acceder este dispositivo, qué reenvía y dónde termina eso?

Lo que dice realmente la ley (Nueva Zelanda)

No hace falta ser abogado, pero hay tres puntos de la Ley de Privacidad que cambian tu forma de desarrollar:

• La indicación cuenta. El Comisionado de Privacidad ha afirmado claramente que tu obligación de seguridad abarca la información que introduces en una herramienta de IA. Introducir los datos de un cliente o solicitante en un LLM público —uno que pueda conservar los datos o entrenarse con ellos— no es una zona gris; es precisamente de lo que trata el principio de seguridad. (Por eso, «simplemente pegamos los CV en ChatGPT» es la frase que debería dejar helado a cualquier reclutador).
• Recopila solo lo necesario. No debes introducir en un agente datos identificativos que la tarea no requiera. Si la tarea consiste en «clasificar por habilidades», no hace falta el nombre, la foto ni la fecha de nacimiento.
• El destino de los datos importa. Entregar información personal a otro servicio —especialmente si está en el extranjero— puede suponer una divulgación para la que necesitas una justificación. Si una configuración determinada cruza esa línea es un tema realmente controvertido, y precisamente por eso debes decidirlo antes de activar el agente, no después.

Esto es información general, no asesoramiento jurídico, pero la idea es sencilla: la cuestión de los datos es una cuestión jurídica, no solo una cuestión de cortesía.

Una nota sobre los datos de Māori

Si tu agente tuviera acceso a información sobre personas de Māori, whānau, hapū o iwi, considera que eso requiere una conversación, no una decisión unilateral. La soberanía de los datos de Māori —el principio de que los datos de Māori se rigen por la gobernanza de Māori— es una obligación vigente, y las personas a las que pertenecen son las únicas que deben decidir qué se considera un uso adecuado. Que un agente recopile esos datos discretamente de la noche a la mañana es precisamente el tipo de decisión que no debería tomarse por defecto.

La disciplina

Antes de conectar un agente a cualquier cosa o dirigirlo hacia un montón de archivos, escribe tres líneas:

• ¿A quién pertenecen estosdatos: a mí o a alguien que me los ha confiado?
• ¿Adónde van a parar una vez que el agente los tiene —qué servicios, qué infraestructura, qué legislación?
• ¿Qué me haría sentir tranquilo: anonimizarlos, mantenerlos en herramientas que yo controle o, simplemente, no entregar estos datos concretos en absoluto?

Si no puedes responder a estas preguntas, no estás preparado para crear el agente; estás preparado para mantener la conversación que decida si deberías hacerlo.

A dónde nos lleva esto

La pregunta seis de la clasificación —«¿de quién son los datos?, ¿quién toma la decisión?»— resulta ser el eje sobre el que gira todo el curso. Es por eso que el Reclutador es nuestro caso más destacado, por qué «independiente de la identidad» es un principio de diseño en el Nivel 2, y por qué algunas tareas siguen siendo cosa de humanos por muy inteligentes que sean las herramientas. El Nivel 1 se centraba en tomar decisiones. A continuación, en el Nivel 2, empezamos a diseñar: definimos el alcance de un agente para que solo pueda acceder a lo que debe, y creamos la puerta de control donde una persona toma la decisión.