Intervención humana en las decisiones algorítmicas: ¿Quién decide realmente?

Hace unas semanas os contábamos en este blog que el reciente Real Decreto 723/2026 (“RD”) obliga a las empresas a informar a las personas trabajadoras de los algoritmos que intervienen en decisiones sobre sus condiciones de trabajo. Entre otras cosas, hay que explicar si en esas decisiones interviene una persona. Parece un detalle menor, pero, en nuestra experiencia, es precisamente donde surgen más dudas.

¿Basta con que alguien dé el visto bueno?

No. En sede del Reglamento General de Protección de Datos, la intervención humana tiene que ser real: quien revisa debe entender lo que propone el sistema, tener tiempo para valorarlo y autoridad para apartarse de él. Si se limita a confirmar lo que dice el algoritmo, a efectos legales la decisión sigue siendo automatizada.

Hay otro matiz importante: informar a las personas trabajadoras no convierte en lícito el uso del sistema, como ha recordado recientemente la AEPD. Antes de implantar una herramienta que evalúa o puntúa a las personas, la empresa tiene que haber hecho sus deberes en protección de datos.

¿Es necesario realizar una evaluación de impacto?

Es una de las preguntas que más nos llegan. Que un sistema entre en el ámbito de aplicación del RD no supone que en todo caso sea necesario realizar una evaluación de impacto en protección de datos (“EIPD”). No obstante, la realidad es que muchas de las herramientas que actualmente el mercado está ofreciendo y que muchos departamentos de recursos humanos están utilizando sí requerirían de dicha EIPD. Es así cuando el sistema evalúa o perfila a las personas, cuando decide o influye en la toma de decisiones, y en particular si se trata de un sistema de inteligencia artificial. El cribado de CV con IA, por ejemplo, reúne varios de estos criterios a la vez. Lo importante es analizar cada sistema antes de ponerlo en marcha, no después.

Algunas cuestiones preliminares que plantearse

¿Qué sistemas, hojas de cálculo incluidas, intervienen hoy en decisiones sobre la plantilla?
¿Quién revisa lo que proponen, y puede el revisor desviarse de dicha propuesta?
¿Alguno utiliza IA y evalúa y/o puntúa a las personas afectadas?

El RD no impide usar algoritmos ni inteligencia artificial, pero sí exige poder explicarlos. En Croma Legal asesoramos a empresas en protección de datos e inteligencia artificial. Os ayudamos a identificar qué sistemas utilizáis, a valorar si necesitan una evaluación de impacto y a ordenar la información que hay que proporcionar a la plantilla. Si queréis analizar en qué punto o fase se encuentra vuestra empresa, escribidnos y lo abordamos juntos.

Autores: Ainara Blanco y Carlos García