La inteligencia artificial aplicada a recursos humanos promete acortar procesos de selección, anticipar bajas voluntarias y personalizar el desarrollo profesional. Pero es, a la vez, uno de los terrenos donde la regulación europea es más estricta: el Reglamento de IA de la Unión Europea clasifica como sistemas de alto riesgo los que se usan para reclutar, filtrar candidaturas, decidir promociones o evaluar el desempeño. Cualquier proyecto de IA en RRHH que ignore ese marco legal no es solo un riesgo ético, sino una infracción con sanciones económicas relevantes. Este artículo explica qué se puede hacer hoy con rigor y qué obligaciones lo acompañan.
Análisis y cribado de candidaturas
El caso de uso más extendido es el parsing y la clasificación de currículos. Un sistema de procesamiento de lenguaje extrae de forma estructurada experiencia, formación, competencias e idiomas, y los puntúa frente a los requisitos del puesto. Bien diseñado, ahorra horas de lectura manual y permite que el equipo de selección dedique su tiempo a las entrevistas y no a la criba inicial. Mal diseñado, reproduce y amplifica sesgos históricos.
El ejemplo de manual es el de un sistema entrenado con las contrataciones pasadas de una empresa: si históricamente se contrataron sobre todo hombres para perfiles técnicos, el modelo aprende a penalizar señales asociadas a mujeres (clubes, universidades femeninas, ciertas palabras) aunque el género no sea una variable explícita. La lección es clara: la ausencia de la variable protegida no garantiza la ausencia de discriminación, porque el modelo puede inferirla por correlación. Por eso el cribado automatizado exige auditoría de sesgo antes y durante su uso, no solo al desplegarlo.
Predicción de rotación: utilidad y límites
Los modelos de predicción de rotación estiman la probabilidad de que una persona deje la empresa en un horizonte dado, combinando señales como antigüedad, evolución salarial, resultados de encuestas de clima o cambios de equipo. Su valor está en lo agregado: detectar que un departamento concreto presenta un riesgo elevado permite actuar sobre las causas (carga de trabajo, promoción, liderazgo) antes de perder talento. Su límite está en lo individual: usar una puntuación de "riesgo de fuga" para tomar decisiones sobre una persona concreta es delicado tanto ética como legalmente, y puede convertirse en una profecía autocumplida.
Conviene además recordar que estos modelos predicen correlación, no causa. Que una variable se asocie con la rotación no significa que actuar sobre ella reduzca las bajas; puede ser un mero síntoma. Por eso el uso responsable de la predicción de rotación es diagnóstico: orientar dónde investigar las causas reales mediante entrevistas, análisis de clima y revisión de las políticas de promoción y retribución, no sustituir ese trabajo por una puntuación automática que se aplique a las personas.
Desarrollo y formación personalizada del talento
Más allá de la selección y la retención, la IA aporta valor en el desarrollo profesional con menor exposición regulatoria, porque su finalidad es ampliar oportunidades en lugar de filtrar a personas. Los sistemas de recomendación de itinerarios formativos sugieren cursos y experiencias en función de las competencias actuales y de las que requiere un puesto objetivo, ayudando a cerrar brechas de habilidades de forma individualizada. El mapeo de competencias internas permite a la organización conocer qué sabe hacer realmente su plantilla y localizar talento para proyectos sin recurrir siempre a contratación externa. Y la movilidad interna se beneficia de motores que conectan a empleados con vacantes internas afines a su perfil, reteniendo conocimiento en la casa. Aun siendo un terreno menos sensible que la selección, sigue exigiendo transparencia: la persona debe entender por qué se le recomienda algo y conservar la libertad de decidir su propia trayectoria.
El marco legal: AI Act y RGPD
Dos normas europeas gobiernan estos sistemas y deben leerse juntas:
- Reglamento de IA (AI Act, Reglamento UE 2024/1689): clasifica los sistemas de selección y gestión de personal como de alto riesgo. Esto obliga a gestión de riesgos documentada, gobernanza de los datos de entrenamiento, registro de actividad (trazabilidad), transparencia hacia las personas afectadas, supervisión humana efectiva y niveles adecuados de precisión y robustez.
- RGPD (Reglamento UE 2016/679): su artículo 22 reconoce el derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o significativos, salvo excepciones tasadas y con garantías. Exige además base de licitud para el tratamiento, minimización de datos, evaluación de impacto (DPIA) cuando hay alto riesgo, y derechos de información, acceso y oposición.
En España, la Agencia Española de Protección de Datos (AEPD) ha publicado orientaciones específicas sobre el uso de IA y la toma de decisiones automatizadas que conviene seguir. La consecuencia práctica es que un proceso de selección con IA debe poder explicarse, auditarse y, sobre todo, mantener una intervención humana que no sea un mero trámite de validación de lo que el algoritmo ya decidió.
A este marco se suma la norma de gestión ISO/IEC 42001, el primer estándar internacional de sistema de gestión de inteligencia artificial, que ofrece una estructura para gobernar el ciclo de vida de estos sistemas con políticas, evaluación de riesgos, control de proveedores y auditoría. No sustituye al cumplimiento legal, pero proporciona el andamiaje organizativo que demuestra diligencia: define roles, documentación y revisiones periódicas que encajan con las exigencias del AI Act. Para un departamento de RRHH, adoptarla equivale a tratar la IA con la misma seriedad de proceso que ya se aplica a la seguridad de la información.
Sesgo algorítmico: cómo detectarlo y mitigarlo
La equidad de un sistema no se declara, se mide. Existen métricas formales que cuantifican el trato a distintos grupos: la paridad demográfica compara la tasa de selección entre grupos protegidos; la igualdad de oportunidades compara la tasa de aciertos entre candidatos igualmente cualificados; y el impacto dispar alerta cuando la tasa de selección de un grupo cae por debajo de un umbral respecto al grupo favorecido. Estas métricas pueden entrar en conflicto entre sí, por lo que la organización debe elegir y justificar cuál prioriza según el contexto. La mitigación actúa en tres momentos: antes del entrenamiento (reequilibrando los datos y depurando variables proxy), durante (con restricciones de equidad en el propio algoritmo) y después (ajustando umbrales por grupo o reordenando resultados). Y nada de esto es un control de una sola vez: el sesgo puede reaparecer cuando cambian las características de los candidatos o se reentrena el modelo, así que la auditoría debe ser periódica y quedar documentada.
Comparativa: selección manual frente a selección asistida por IA
| Dimensión | Proceso manual | Proceso asistido por IA (bien gobernado) |
|---|---|---|
| Tiempo de criba inicial | Alto, depende del volumen | Reducido en la fase de filtrado |
| Consistencia de criterios | Variable entre evaluadores | Homogénea, criterios explícitos |
| Riesgo de sesgo | Sesgo humano difícil de medir | Sesgo medible y auditable, pero amplificable |
| Trazabilidad de la decisión | Baja, depende de notas | Alta si se registra cada paso |
| Exigencia regulatoria | General (RGPD) | Alta (RGPD + AI Act, DPIA, supervisión humana) |
Implementación responsable paso a paso
Un despliegue defendible sigue una secuencia: (1) definir el propósito y comprobar si el sistema entra en la categoría de alto riesgo del AI Act; (2) realizar la evaluación de impacto en protección de datos (DPIA) antes de tratar datos reales; (3) gobernar los datos de entrenamiento, documentando su origen, representatividad y limpieza de variables proxy de características protegidas; (4) auditar el sesgo con métricas de equidad por grupos antes de poner el modelo en producción y de forma periódica después; (5) garantizar supervisión humana real, donde el reclutador pueda revertir y justificar la recomendación; (6) informar a los candidatos de que existe un tratamiento automatizado y de su lógica general; y (7) registrar y monitorizar cada decisión para poder auditarla.
Errores comunes
El primero es comprar una herramienta "de selección con IA" como caja negra sin exigir documentación de cómo fue entrenada ni evidencia de auditoría de sesgo: la responsabilidad legal recae en la empresa que la usa, no solo en el proveedor. El segundo es confundir "quitar el género del dato" con "eliminar el sesgo", ignorando las variables proxy. El tercero es presentar como "supervisión humana" un proceso donde la persona se limita a aceptar el ranking del algoritmo sin capacidad ni tiempo real de cuestionarlo. El cuarto es usar la predicción de rotación para penalizar a empleados individuales. Y el quinto, omitir la DPIA por considerarla burocracia, cuando es precisamente lo que demuestra diligencia ante la autoridad de control.
Preguntas frecuentes
¿Puede la IA decidir sola a quién contratar? No de forma lícita en la práctica. El artículo 22 del RGPD restringe las decisiones basadas únicamente en tratamiento automatizado con efectos significativos, y el AI Act exige supervisión humana efectiva. La IA recomienda y asiste; la decisión la mantiene una persona.
¿Qué significa que estos sistemas sean "de alto riesgo"? Que el AI Act les impone obligaciones reforzadas: gestión de riesgos, calidad de datos, documentación técnica, trazabilidad, transparencia, supervisión humana y robustez, sujetas a evaluación de conformidad.
¿Necesito una evaluación de impacto? Sí, cuando el tratamiento entraña un alto riesgo para los derechos de las personas, como suele ocurrir en perfilado de candidatos a gran escala. La DPIA debe realizarse antes de iniciar el tratamiento.
¿Cómo demuestro que mi sistema no discrimina? Documentando los datos de entrenamiento, midiendo métricas de equidad por grupos protegidos de forma periódica, conservando el registro de decisiones y manteniendo una vía de revisión humana con capacidad real de corregir el resultado.
Conclusión
La IA en recursos humanos no es una cuestión de capacidad técnica, sino de gobernanza. La tecnología para leer currículos, estructurar competencias o estimar riesgos de rotación está madura; lo que separa un proyecto solvente de un problema legal es el diseño en torno a tres pilares: supervisión humana que de verdad decida, auditoría continua de sesgo y trazabilidad que permita explicar cada decisión ante un candidato o ante la autoridad de control. En el marco del AI Act y el RGPD, la pregunta correcta no es "¿qué puede hacer el modelo?", sino "¿puedo justificar, ante quien me lo exija, cada recomendación que ha producido?". En Summum Inteligencia Artificial diseñamos estos sistemas partiendo de esa obligación, no añadiéndola al final.