Herramientas que puedes conservar
Cuatro fichas de una página, extraídas directamente de las lecciones. Imprímelas y cuélgalas junto al escritorio, o guárdalas como lista de verificación antes de asignar una tarea real a un agente. Son los principios del curso en un formato que puedes utilizar sin tener que volver a leer la lección cada vez; la decisión sigue estando en tus manos.
La lista de verificación para la censura
De las lecciones 1.4 y 2.4: la cuestión de los datos y la anonimización de la identidad donde sea necesario.
Antes de que un agente acceda a los datos de otras personas, hazte la pregunta sobre la custodia y, a continuación, elimina lo que no sea necesario para el trabajo. La redacción es el mínimo imprescindible, no el máximo: hazla y, aun así, comprueba si hay sesgos que se cuelen a través de los intermediarios (Tarjeta 3).
Elimina antes de procesar: introduce solo contenido relevante para la tarea
- Identidad: nombre, foto, fecha de nacimiento o edad, domicilio. Si la tarea consiste en «emparejar habilidades con un puesto», ninguno de estos datos es relevante.
- Señales de atributos protegidos: género, origen étnico, estado civil o situación familiar, nacionalidad, religión. Omítelas a menos que el puesto las requiera realmente.
- Recuerda el límite: los sesgos se filtran a través de datos indirectos que no puedes ocultar: centro educativo, código postal, lagunas laborales, estilo de redacción. La ocultación es necesaria, pero no suficiente.
Información general, no asesoramiento jurídico. Si hay un riesgo real de exposición, consulta con un abogado cualificado sobre tu situación concreta.
La plantilla de criterios
De la lección 2.3: criterios, no impresiones.
Escribe primero los criterios, con tus propias palabras, antes de que el agente se ejecute. Los criterios elegidos a posteriori solo justifican la respuesta que ya tienes. El agente devuelve pruebas en relación con estos criterios, no una puntuación ni un veredicto.
Este agente juzga/decide…
Los criterios: que sean relevantes para el puesto, y solo esos.
El agente responde…
Pruebas y fundamentos para cada criterio —incluso en los casos en los que no haya certeza—, no una puntuación, una clasificación ni una recomendación con la que estar de acuerdo.
La persona que decide (y que podría decir que no)…
Una persona a la que se le presentan pruebas las sopesa; una persona a la que se le entrega un veredicto se limita a dar el visto bueno. Los criterios son lo que hacen que el filtro humano sea real.
El método de detección de sesgos
De la lección 3.2: cómo poner a prueba a tu agente.
En el caso de cualquier agente que juzgue a las personas, no se puede saber si es justo con solo mirarlo. Hay que medirlo. Dos pruebas, en tu propio agente, antes de confiar en él —y de nuevo a medida que cambian las herramientas que lo sustentan—.
1 · La prueba del intercambio de nombres
- Toma una aplicación. Ejecútala. Anota el resultado.
- Cambia solo el nombre: sustituye un nombre masculino por uno femenino, un nombre obviamente del tipo Pākehā por uno obviamente del tipo Māori, Pasifika o asiático. No cambies nada más.
- Ejecútala de nuevo. ¿Cambia el resultado? Repite la operación con un lote.
- Si cambia, la identidad que creías haber eliminado se está filtrando a través de los proxies. Documenta el hecho.
2 · Prueba de impacto adverso
- Mide los resultados entre los distintos grupos en un lote real: a quién selecciona el agente y a quién descarta.
- Indicador: la regla de las cuatro quintas partes (80 %): si la tasa de selección de un grupo es inferior al 80 % de la del grupo con la tasa más alta, esa es la señal establecida. (Una regla empírica de la legislación laboral estadounidense —un criterio de referencia, no una ley de Nueva Zelanda—).
- En Nueva Zelanda, el marco legal es el de la discriminación indirecta según la Ley de Derechos Humanos: una práctica aparentemente neutral que afecte de manera desproporcionada a un grupo protegido puede ser ilegal, incluso sin intención.
Información general, no asesoramiento jurídico.
Cuando una IA lee tu CV
El resumen del candidato: porque todo el mundo, en algún momento, se encuentra al otro lado del filtro de otra persona. Compártelo.
Hay muchas posibilidades de que tu próxima solicitud la lea primero una máquina. Tienes más influencia de lo que crees, pero la mayor parte de ella se ejerce antes de pulsar «enviar».
Envía menos información: a menos que el puesto lo requiera realmente, omite
- la fecha de nacimiento y la edad · una foto · tu dirección particular (basta con la ciudad) · estado civil o situación familiar, nacionalidad y religión.
Formatea el texto para que una máquina te lea de forma imparcial
- Estructura sencilla y encabezados claros: nada de texto oculto en imágenes o columnas que un analizador sintáctico no pueda descifrar.
- Enumera las habilidades que se piden para el puesto, con palabras sencillas. Las máquinas comparan; no leen entre líneas.
Haz tres preguntas
- «¿Utilizáis IA o herramientas automatizadas para filtrar las solicitudes?»
- «¿Qué ocurre con mis datos? ¿Se almacenan? ¿Durante cuánto tiempo? ¿Se envían a un servicio externo?»
- «¿Puedo solicitar que una persona revise la decisión?»
Una vez que lo has enviado, tu control es limitado y, a día de hoy, no hay forma práctica de rastrear el recorrido de un CV; por lo tanto, tu verdadera influencia se ejerce antes de enviarlo. Información general, no asesoramiento jurídico.