IA en contratación: sesgos más altos que humanos

⏱ Tiempo de lectura: 3 min

La inteligencia artificial muestra mayor tendencia a desarrollar sesgos en procesos de selección que los evaluadores humanos, según nueva investigación. Mientras los modelos de lenguaje heredan prejuicios de sus datos de entrenamiento, también generan nuevos sesgos a partir de la experiencia acumulada. A medida que las empresas de IA construyen modelos más sofisticados que recuerdan detalles sobre usuarios, estas herramientas podrían amplificar discriminación en la evaluación de candidatos.

Cómo la IA estereotipa más que los humanos

Investigadores descubrieron que los modelos de lenguaje grandes no solo replican sesgos humanos presentes en sus datos de entrenamiento, sino que desarrollan patrones discriminatorios propios durante su operación. Los sistemas de selección automática de currículum pueden estereotipar candidatos de formas que un evaluador humano podría evitar. Esta capacidad de aprender sesgos directamente de experiencias es particularmente preocupante en aplicaciones de recursos humanos donde la decisión afecta oportunidades laborales reales.

El riesgo de los modelos con memoria persistente

Las empresas de inteligencia artificial desarrollan actualmente modelos agenticos que retienen información detallada sobre cada usuario. Aunque estos sistemas buscan personalización y contexto mejorado, la arquitectura que permite recordar datos granulares también amplifica riesgos de sesgo acumulativo. Cuando un sistema discrimina en una decisión de contratación, esa información sesgada se integra en futuras evaluaciones, creando ciclos de prejuicio reforzado. Michelle Kim, autora del análisis completo, detalla cómo estos ciclos operan en entornos de selección profesional. Fuente: MIT Technology Review

Aspecto	Dato
Origen del sesgo	Datos de entrenamiento + aprendizaje directo de experiencias
Comparación con humanos	IA estereotipa más que evaluadores humanos
Factor amplificador	Modelos agenticos con memoria persistente de detalles de usuarios
Impacto	Discriminación en selección que afecta oportunidades laborales reales
Mecanismo de refuerzo	Decisiones sesgadas se integran en evaluaciones futuras

Preguntas frecuentes sobre sesgos de IA en contratación

¿Por qué la IA desarrolla nuevos sesgos además de heredar los existentes?

Porque estos sistemas aprenden patrones directamente de experiencias sucesivas. Cada evaluación en la que discrimina refuerza el patrón y lo integra en futuras decisiones de forma acumulativa.

¿Qué riesgo específico traen los modelos agenticos con memoria?

Amplían sesgos al retener información granular sobre usuarios. Un sesgo inicial se convierte en un dato persistente que influye en todas las interacciones futuras del sistema con ese candidato o perfil similar.

¿Cómo pueden las empresas minimizar este riesgo?

No se especifica en el texto fuente recibido. El análisis subraya el riesgo pero no detalla soluciones técnicas o de política corporativa.

Qué falta por confirmar

El texto original no indica cuánto más alta es la tasa de sesgo de IA respecto a humanos, ni especifica sectores o tipos de roles donde el problema es más agudo. Tampoco detalla estándares regulatorios emergentes que podrían limitar el uso de estos sistemas en selección.

En Inteligencia Artificial, estos hallazgos refuerzan la urgencia de auditorías de sesgo antes de desplegar sistemas de selección. Si los currículum se filtran primero por IA, ¿qué mecanismos de revisión humana deberían ser obligatorios?

Fuente: www.technologyreview.com