La IA puntúa candidatos o trabajadores: quién decide realmente y qué debe poder explicar la empresa

Una empresa utiliza una herramienta que asigna una puntuación a candidatos o trabajadores. Después una persona de recursos humanos decide quién continúa, quién recibe una oportunidad o qué expediente merece revisión. La respuesta inmediata suele ser: «la IA no decide; decide una persona».

Puede ser cierto. Pero todavía no sabemos cómo funciona la decisión.

Si el ranking determina qué expedientes se ven primero, cuáles quedan fuera por umbral o qué información recibe el decisor, el sistema puede estructurar materialmente el resultado aunque exista una aprobación humana final.

Hay que reconstruir la cadena, no solo el último clic

La pregunta útil es:

¿qué peso tiene el sistema en el proceso y qué capacidad real conserva la persona para revisar, discrepar y modificar?

Para responder hay que separar:

1. datos de entrada;
2. variables o criterios utilizados;
3. scoring, ranking o clasificación;
4. umbrales automáticos;
5. información que recibe el decisor humano;
6. tiempo y capacidad de revisión;
7. decisión final;
8. posibilidad de explicación o impugnación.

Dos procesos que dicen «human review» pueden ser jurídicamente muy distintos.

Información a la representación de los trabajadores

El Estatuto de los Trabajadores, en su artículo 64.4.d, reconoce derechos de información de la representación legal sobre parámetros, reglas e instrucciones en los que se basan algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones capaces de incidir en condiciones de trabajo, acceso y mantenimiento del empleo, incluida la elaboración de perfiles.

Esa obligación obliga a mirar más allá del nombre del software. La empresa debe poder identificar qué reglas y parámetros son relevantes en la decisión laboral y cómo inciden materialmente.

No significa que deba revelar cualquier detalle técnico sin límite. Significa que la organización necesita conocer suficientemente su propio sistema para cumplir los derechos de información que resulten aplicables.

Artículo 22 RGPD: no toda asistencia es una decisión exclusivamente automatizada

El RGPD, en su artículo 22, contiene un régimen específico para determinadas decisiones basadas únicamente en tratamiento automatizado que producen efectos jurídicos o afectan significativamente de modo similar.

Por eso no debe afirmarse que cualquier ranking, recomendación o apoyo de IA activa automáticamente el artículo 22.

La cuestión es si existe una intervención humana real y significativa o si la persona se limita a confirmar el resultado de forma rutinaria. Para analizarlo hay que observar la práctica, no solo el diseño formal.

Igualdad y discriminación

La Ley 15/2022 incorpora una dimensión específica sobre inteligencia artificial y mecanismos de toma de decisión automatizada en relación con minimización de sesgos discriminatorios y transparencia, entre otros aspectos.

En selección o evaluación laboral, el riesgo no se limita a introducir directamente una variable protegida. También pueden aparecer proxies, correlaciones históricas o criterios que produzcan impactos desiguales.

La empresa debe poder preguntarse:

• qué datos utiliza el sistema;
• qué variables sustituyen de hecho a otras sensibles;
• cómo se ha evaluado el impacto;
• qué grupos quedan sistemáticamente perjudicados;
• qué revisión existe;
• cómo se corrige una desviación.

AI Act: separar régimen vigente y calendario de alto riesgo

El AI Act incluye determinados usos de IA en empleo y gestión de trabajadores dentro del catálogo de alto riesgo del anexo III.

Tras las modificaciones de 2026, el calendario de aplicación de esas reglas de alto riesgo no debe confundirse con obligaciones ya vigentes de otras normas. La organización puede tener hoy deberes laborales, de protección de datos o igualdad aunque una obligación específica del régimen de alto riesgo tenga una fecha posterior de aplicación.

Esta separación temporal es importante: no esperar al calendario del AI Act para cumplir Derecho que ya se aplica.

El ranking puede decidir antes de la decisión

Hay un problema especialmente frecuente: la persona humana solo ve los primeros veinte candidatos que el algoritmo seleccionó de entre mil.

Formalmente, el humano elige. Materialmente, el sistema ya decidió quién era visible.

Otro ejemplo: una herramienta puntúa rendimiento y el manager conserva discrecionalidad, pero las promociones solo se revisan a partir de un umbral automático. De nuevo, el análisis debe incluir el filtro previo.

La decisión jurídica relevante puede estar distribuida en varias capas.

Criterio H&C

No preguntamos únicamente «¿quién firma la decisión?». Preguntamos:

¿qué información, filtros, rankings y umbrales estructuraron lo que esa persona pudo decidir?

A partir de ahí se revisan cuatro dimensiones:

• trabajo e información colectiva;
• protección de datos y decisiones automatizadas;
• igualdad y no discriminación;
• supervisión y gobierno del sistema.

La Checklist de IA, trabajo y decisión algorítmica organiza esas capas. La Matriz de supervisión humana efectiva permite comprobar si la revisión humana puede producir una diferencia real.

Qué debe poder explicar la empresa

Sin convertir cada sistema en una caja de documentación imposible, una organización debería poder explicar:

• para qué se utiliza la IA;
• qué datos y criterios intervienen;
• qué fase del proceso modifica;
• qué decisiones automatiza o condiciona;
• qué ve la persona que revisa;
• qué puede corregir;
• qué información corresponde facilitar;
• cómo se detecta impacto discriminatorio;
• cómo se registra una revisión o discrepancia;
• cuándo se reevalúa el sistema.

El problema no es usar una puntuación. El problema es no saber qué función decisoria ha adquirido dentro de la organización.