Tu IA No Comparecerá en la Declaración
Riesgo oculto: Las herramientas de contratación con IA pueden parecer justas, aunque no distingan a los candidatos calificados de los irrelevantes o no aptos.
Cambio de sesgo: Las auditorías de sesgo de los proveedores no pueden predecir resultados futuros porque las versiones del modelo, roles, nombres y características demográficas influyen en los resultados.
Responsabilidad humana: Cada decisión de personal asistida por IA necesita una persona responsable identificada que pueda defender el resultado ante reguladores o demandantes.
Prueba de competencia: Las organizaciones deben probar los sistemas de contratación con IA usando currículos pareados y sobresaturados de palabras clave antes de confiar en sus recomendaciones.
Gobernanza primero: Trata la adquisición de IA como una decisión de gobernanza, escalando la explicabilidad y la supervisión según las consecuencias de cada uso.
Imagina la última decisión de contratación asistida por IA que tomó tu equipo. Un candidato marcado. Un "puntaje de ajuste" cerca del final de la lista. Tu reclutador siguió adelante.
Ahora imagina que ese candidato presenta una queja por discriminación seis meses después y pregunta, en una declaración legal, exactamente por qué fue rechazado. ¿De quién es el nombre que figura en el expediente? ¿El tuyo? ¿El del reclutador? ¿El del proveedor?
Si tu respuesta honesta es "el algoritmo lo marcó", tienes un problema de responsabilidad, y es estructural. Ningún proveedor va a solucionarlo por ti.
Sigue leyendo—y sigue liderando de manera más inteligente
Crea una cuenta gratuita para terminar este artículo y unirte a una comunidad de líderes visionarios que están desbloqueando herramientas, guías prácticas e ideas para prosperar en la era de la IA.
Have an account? Log In
He pasado la última década como analista de inteligencia de negocios en Amazon y Microsoft. También pasé el último año auditando ocho plataformas comerciales de filtrado de currículums con IA. Aproximadamente 4.000 pruebas, currículums idénticos que sólo variaban por el nombre del candidato, se analizaron en busca de sesgo demográfico y competencia básica.
Lo que encontré es más incómodo que la típica historia de "la IA es sesgada". Varias plataformas consideradas como las más neutrales en realidad lo son como un termómetro roto. Producen resultados estables y equilibrados demográficamente porque no pueden distinguir de manera significativa a un candidato calificado de uno no calificado. Esa es la apariencia de equidad sobre una herramienta que no funciona.
A esto lo llamo la "Ilusión de Neutralidad", y es la dinámica que más debería preocupar a los líderes sénior de RRHH, porque es la que tu auditoría de sesgos no puede detectar.
La IA hace ahora trabajo narrativo
El contexto del mercado laboral aquí importa, y sobre todo por lo que revela sobre el motivo. Un análisis de la Fed de Nueva York de septiembre de 2025 encontró que solo el 1 % de las empresas de servicios atribuyeron los despidos a la IA en los últimos seis meses, mientras que el 35 % dijo que la IA las llevó a volver a capacitar a sus empleados.
Sin embargo, una encuesta de Resume.org entre 1.000 responsables de selección de personal, publicada en enero, reveló que el 59 % admite que enfatiza la IA al explicar congelaciones de contrataciones o despidos porque "queda mejor ante los interesados" que citar problemas financieros.
A la IA se le está pidiendo que haga trabajo narrativo además del trabajo operativo. Tenlo en cuenta, porque el mismo instinto que culpa a la IA de un despido culpará a la IA de una mala decisión de contratación.
De "basado en datos" a "encuéntrame los datos"
La promesa del liderazgo basado en datos era clara. Reducir la dependencia en la intuición. Mostrar evidencia. Crear un registro verificable. Cuando se sostiene la disciplina, funciona.
Lo que he visto ocurrir en los últimos cinco años recibió mucha menos atención de la que merecía. Las herramientas nunca cambiaron. La relación entre los líderes y las herramientas sí. La petición real dejó de ser "¿qué dicen los datos?" para convertirse en "encuéntrame los datos que respalden esto".
La IA acelera el giro porque una salida de modelo es más difícil de impugnar que la intuición de un gerente de contratación. Así que, cuando algo sale mal, la respuesta se convierte en "el sistema lo identificó". Esa frase es todo el problema.
Los modelos más justos no pueden distinguir candidatos
En ocho plataformas, incluyendo ChatGPT, Gemini, Copilot y Claude, surgieron tres patrones.
El sesgo sigue ahí, y es menos predecible. Varios modelos penalizaban currículums simplemente porque se asociaba un nombre de candidato, sin importar cuál fuera. Otros premiaban a ciertos grupos demográficos en algunos puestos y los penalizaban en otros. Un modelo dividió a un mismo grupo racial en direcciones opuestas según el género en el mismo currículum.
El sesgo cambia con el puesto y la versión del modelo. La auditoría de sesgos de tu proveedor no predice cómo se comportará la herramienta en el próximo proceso.
Los modelos más "justos" suelen ser los menos competentes. Cuando probé si los modelos podían distinguir entre un currículum relevante y uno irrelevante, varios no pudieron. Un modelo calificó un currículum del sector servicios lleno de palabras clave financieras con 92 de 100 para un puesto de Director de Finanzas. El mismo currículum sin las palabras clave puntuó 15. El modelo evaluaba el vocabulario. La calificación nunca tuvo en cuenta la cualificación. Una herramienta así ha dejado de evaluar cualquier cosa.
El mismo proveedor da respuestas diferentes según la versión que esté ejecutando. Un candidato evaluado por la versión "rápida" de ChatGPT puede obtener hasta 15 puntos más o menos que el mismo candidato en la versión "lenta" ese mismo día. La mayoría de los gerentes no sabe qué versión está utilizando ni sabe que eso importa.
Estos no son casos excepcionales. Son las condiciones de funcionamiento de las herramientas de contratación por IA ahora mismo.
Blanqueo de la responsabilidad
Tomar mejores decisiones es solo parte de por qué se adoptan estas herramientas. También facilitan justificar decisiones difíciles. Despidos. Calificaciones de desempeño. Rechazos de contratación. Decisiones de compensación. Cuando la salida del modelo está en el expediente, la persona que autorizó la decisión tiene una negación plausible que antes no tenía.
Una encuesta de ResumeBuilder de 2025 lo hace concreto. Entre los gerentes que usan IA para decisiones de personal, el 64% la utiliza para ayudar a determinar despidos, y más de uno de cada cinco admite que a menudo dejan que la IA tome la decisión final sin intervención humana.
La investigación en comportamiento es aún más contundente. Un estudio publicado en Nature en 2025 por Köbis y sus colegas encontró que los agentes de IA cumplieron instrucciones completamente poco éticas entre el 58% y el 98% de las veces según el modelo, en comparación con el 25% al 40% para agentes humanos que recibieron las mismas instrucciones.
Las máquinas están mucho más dispuestas que las personas a ejecutar órdenes éticamente comprometidas, lo cual es exactamente la característica que las hace útiles como infraestructura de rendición de cuentas.
La literatura de investigación tiene un nombre para el lado humano de esto. Madeleine Clare Elish lo llamó la "zona de deformación moral", donde las personas que están en la primera línea de un sistema automatizado absorben la culpa por fallos que se originaron en decisiones difusas de diseño y gobernanza. El personal empieza a hablar sobre "lo que decidió el sistema" en vez de "lo que nosotros decidimos", incluso cuando todavía tienen margen de decisión.
El nombre más claro para la dinámica completa es lavado de responsabilidad. El modelo toma una decisión que antes requería juicio humano defendible y la convierte en un resultado que nadie tiene que defender. Cuando la decisión es incorrecta, el fallo es de todos y de nadie, y su organización pierde la capacidad de aprender de sus propios errores.
Gobernanza, o no se implementa
Ha llegado el momento de que los líderes traten la adquisición de IA como una decisión de gobernanza, no como una decisión de TI.
Póngale nombre a cada decisión asistida por IA. Como mencionó recientemente un abogado especializado en IA a CIO, el algoritmo no se presentará en el tribunal. Los humanos que lo desarrollaron, implementaron o utilizaron sí lo harán. Antes de que cualquier herramienta de IA intervenga en contrataciones, valoraciones de desempeño, compensaciones o despidos, exija una respuesta a una pregunta: cuando este resultado sea erróneo, ¿de quién es el nombre que aparece en el expediente? No el proveedor. No el modelo. Una persona, de nivel lo suficientemente alto como para defender la decisión ante un regulador o un abogado del demandante.
Adapte la explicabilidad a las consecuencias. Un modelo que recomienda contenidos formativos puede ser una caja negra. Un modelo que contribuye a un despido, no. La mayoría de las organizaciones establecen su estándar de explicabilidad una sola vez, en el momento de la adquisición. Las disciplinadas lo ajustan según el caso de uso y descartan a los proveedores que no pueden alcanzar el estándar más alto.
Realice sus propias auditorías de validación dual. Las auditorías de sesgo de los proveedores son necesarias pero insuficientes. También pruebe la competencia. ¿Puede la herramienta realmente distinguir entre candidatos calificados y no calificados para los puestos en los que contrata? Unos pocos currículums desfasados. Unos pocos que solo contienen palabras clave. Compare las puntuaciones. Si el modelo no puede notar la diferencia, no puede ayudarle, sin importar lo imparcial que parezca.
Recursos Humanos es la función que más cortejan los proveedores de IA y la que asume la responsabilidad cuando una de estas herramientas produce un resultado indefendible. La tentación será tratar la adquisición como una cuestión de proveedores. No caiga en ello.
Como dijo un abogado laboralista a The Washington Post cuando los algoritmos comenzaron a confeccionar listas de despidos: "No intente echarle la culpa al software".
Si su respuesta a una decisión defectuosa asistida por IA es "lo hizo el sistema", su sistema se ha convertido en su riesgo. En algún lugar de su organización, una persona debe hacerse responsable de cada decisión en la que intervengan estas herramientas. Averigüe quién es antes de que lo haga una declaración judicial.
