Las preguntas de gobernanza que solo RR. HH. está preparado para responder
La herramienta de Amazon: Amazon abandonó una herramienta de selección sesgada entrenada con una década de datos de contrataciones dominados por hombres.
Preocupaciones por sesgo: La evaluación de los sistemas de IA carecía de enfoque en resultados justos, lo que condujo a sesgos no controlados y vacíos de gobernanza.
Roles de gobernanza: RR. HH. es clave en la gobernanza de la IA para asegurar resultados justos y procesos transparentes para los empleados.
IA de alto riesgo: La Ley de IA de la UE clasifica la IA en el ámbito laboral como de alto riesgo, lo que requiere documentación estricta y supervisión.
El desafío de RR. HH.: RR. HH. carece de autoridad en la gobernanza de la IA, por lo que necesita el apoyo del comité ejecutivo para establecer normas y responsabilidades.
En 2018, Amazon descartó una herramienta de aprendizaje automático que había estado desarrollando durante años para filtrar currículums. El sistema había sido entrenado con una década de datos de contratación que reflejaban la preferencia histórica de la empresa por candidatos masculinos en roles técnicos.
El modelo aprendió ese patrón y lo replicó, rebajando los currículums que incluían palabras como "femenino" y penalizando a graduadas de universidades exclusivamente para mujeres. Los ingenieros de Amazon intentaron corregirlo. No pudieron garantizar que el sesgo no aparecería de otras maneras, así que lo cerraron.
Esta historia suele citarse como una advertencia sobre la IA y los sesgos. Lo que recibe menos atención es la cuestión estructural que plantea. ¿De quién era el trabajo detectar eso en primer lugar?
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Los equipos técnicos que construían el sistema estaban enfocados en si funcionaba. Lo legal probablemente se centraba en la exposición a responsabilidades. Aparentemente, nadie se enfocaba en si el sistema generaba resultados justos para las personas que evaluaba, al menos no como una función principal de gobernanza.
Ese problema no se ha resuelto en la mayoría de organizaciones. De hecho, a medida que la implementación empresarial de IA se ha expandido y acelerado, se ha convertido en algo aún más difícil de delimitar.
Las Dos Preguntas que se Están Respondiendo Ahora
La mayoría de los marcos de gobernanza de IA empresarial se diseñaron para responder a dos categorías de preguntas.
La primera es legal: ¿qué responsabilidad existe si este sistema falla, produce un resultado discriminatorio o expone datos regulados?
La segunda es técnica: ¿cuáles son los modos de falla, con qué datos se ha entrenado el sistema, dónde están las vulnerabilidades de seguridad? Ambas categorías importan. Ninguna es suficiente por sí sola, porque ninguna fue diseñada con una obligación principal hacia las personas a las que afectan los sistemas.
No es una crítica a lo legal o IT. Esas funciones construyeron marcos de gobernanza para responder a las preguntas para las que fueron contratados. El problema es que la adopción empresarial de la IA avanzó tan rápido que superó cualquier conversación deliberada sobre quién debe responder las preguntas restantes, y la mayoría de las organizaciones adoptaron los marcos ya existentes.
Según la Encuesta de IA Responsable 2025 de PwC, el 56% de los ejecutivos dice que sus equipos de primera línea — IT, ingeniería, datos y IA — ahora lideran los esfuerzos de IA responsable. RR.HH. no aparece en esa cifra de manera significativa.
Según la Encuesta de Gobernanza 2025 de Pacific AI, tres cuartas partes de las organizaciones han establecido políticas de uso de IA, pero solo el 36% ha adoptado un marco formal de gobernanza, lo que significa roles definidos, controles y ejecución. La distancia entre un documento de política y la responsabilidad funcional es exactamente donde las preguntas sobre personas quedan sin respuesta.
La Ley de IA de la UE, que comenzó a implementar requisitos de cumplimiento en 2024, clasifica los sistemas de IA utilizados en empleo y gestión de la fuerza laboral como de alto riesgo por categoría. Esa designación cubre herramientas usadas para reclutamiento, evaluación del desempeño, asignación de tareas y monitoreo. Esencialmente, la suite de sistemas que la mayoría de las empresas están implementando a gran escala.
La clasificación de alto riesgo significa requisitos más estrictos de documentación, transparencia y supervisión humana. No especifica quién dentro de una organización es responsable de cumplir con esos requisitos. Esa cuestión se le devuelve a la empresa.
En la mayoría de las organizaciones, la respuesta ha sido "quien ya posee la gobernanza". Normalmente significa legal, cumplimiento o seguridad IT — las funciones con marcos ya establecidos. RR.HH. suele participar como parte interesada o es consultada durante la implementación. Rara vez lidera.
Las Preguntas que se Están Omitiendo
Las preguntas que determinan si la IA realmente está perjudicando a las personas no encajan bien en el riesgo legal o el fallo técnico. Requieren un punto de partida diferente.
¿Este sistema está produciendo resultados sesgados entre diferentes grupos demográficos?
Responder a esa pregunta requiere saber cómo es la equidad en un contexto laboral específico, no solo cómo es lo defendible legalmente. Son estándares diferentes.
Un sistema puede ser defendible legalmente y aun así producir resultados que sistemáticamente sean peores para un grupo de empleados que para otro. Detectar eso requiere alguien que sepa cómo es una práctica laboral equitativa y tenga la autoridad para señalar cuando un sistema se desvía de ella.
¿Se está evaluando a los empleados con datos que no comprenden o de los que no se les informó que se estaban recopilando?
Según la encuesta laboral de 2025 de Owl Labs, el 20,5% de los empleados no está seguro de si existe algún tipo de monitoreo, y el 12,8% no sabe qué se está rastreando.
Esto no es un tema secundario. El 61% de las empresas estadounidenses utilizan ahora análisis impulsados por IA para medir la productividad o el comportamiento de los empleados. Si bien los empleados saben que esto ocurre, entienden cómo influye en sus evaluaciones y tienen alguna vía para impugnar lo que el sistema produce, todas son cuestiones propias de la relación laboral. Estas pertenecen a la función que administra dicha relación.
¿Quién decide cuándo se anula una recomendación de IA y con qué criterios?
En organizaciones donde las herramientas de IA influyen o informan decisiones sobre contrataciones, ascensos, calificaciones de desempeño o despidos, la cuestión de la anulación es una de las decisiones de gobernanza más relevantes que una empresa puede tomar.
Equivocarse en una dirección significa dejar recomendaciones de IA sin control. Hacerlo en otra significa tratar los resultados del sistema como una representación teatral o infraestructura costosa en la que nadie confía.
Calibrar ese umbral requiere comprender tanto cómo funciona la herramienta como cómo toman decisiones los gerentes, dónde entra el sesgo en el juicio humano y cómo se ve la rendición de cuentas cuando hay disputas sobre los resultados.
Ninguna de estas preguntas tiene lugar en la mayoría de los marcos de gobernanza empresarial. Requieren experiencia especializada que reside en RR.HH. y en el diseño organizacional, no en legal o ingeniería.
El Mapa de la Responsabilidad
Lo que corresponde a RR.HH. en la gobernanza de la IA no es una cuestión de preferencia ni de política organizacional. Es una consecuencia de su función. RR.HH. es el área de la empresa con obligación principal hacia los empleados, desde su trato justo hasta su desarrollo y sus derechos dentro de la relación laboral.
Esa obligación no desaparece cuando la IA entra en el proceso, pero sí se complica más.
Varias decisiones de responsabilidad son propias de RR.HH. por naturaleza, más que por delegación.
La auditoría de sesgos en la IA aplicada al empleo es la más directa
Los equipos técnicos pueden probar si un modelo se comporta de manera consistente frente a diferentes entradas. Solo RR.HH. puede evaluar si esa consistencia se traduce en resultados equitativos en contexto, y si la herramienta de gestión de desempeño que califica a todos bajo el mismo criterio, en la práctica, genera distribuciones de calificaciones que desfavorecen a empleados en ciertos roles, regiones o grupos demográficos.
Esto requiere acceso a datos de RR.HH., conocimiento de legislación laboral y estándares de equidad, y el peso organizativo para actuar según los hallazgos.
Obligaciones de transparencia hacia los empleados
Los empleados tienen interés en saber cuándo se usa IA para informar decisiones sobre ellos, qué datos se utilizan y cómo se llegan a las conclusiones.
En algunas jurisdicciones, tienen derechos legales a esa información. Si una organización cumple esas obligaciones mediante políticas, capacitaciones o diseño de procesos, y si considera esas obligaciones como un mínimo o como una verdadera referencia, depende de las prácticas de RR.HH.
El poder de anulación
El diseño del proceso de anulación humana es más sutil y más relevante de lo que normalmente se reconoce. La cuestión de cuándo una persona puede o debe anular una recomendación de IA implica comprender dónde es probable que las herramientas de IA fallen, dónde el juicio humano es más confiable y cómo incorporar responsabilidad en las decisiones de anulación para evitar que simplemente se conviertan en nuevos focos de sesgo.
Eso requiere alguien que comprenda tanto la herramienta como el comportamiento organizacional en torno a ella. RR.HH., en estrecha coordinación con los equipos que implementan IA, está en la mejor posición para liderar este diseño.
More Articles
Recursos para los empleados
Cuando alguien considera que una decisión influenciada por IA fue errónea, esto debe estar bajo la gobernanza de RR.HH. No solo porque RR.HH. gestiona los procesos de quejas, sino porque diseñar mecanismos de recurso implica analizar cómo se investigan las disputas relacionadas con resultados producidos por IA, qué evidencia puede presentarse y qué soluciones son posibles.
Legal define el mínimo. Recursos Humanos define si la organización realmente se lo toma en serio.
Experiencia Técnica
Existe una objeción razonable a la premisa de que Recursos Humanos lidere la gobernanza de la IA, y merece ser abordada directamente. Recursos Humanos no siempre tiene la experiencia técnica para evaluar sistemas de IA.
Eso es cierto. Pero la autoridad de gobernanza y la evaluación técnica son cosas diferentes. Legal no programa y Finanzas no gestiona los procesos de ingeniería que audita.
La función que posee un dominio de gobernanza no necesita necesariamente hacer el trabajo técnico, necesita la legitimidad y experiencia para establecer los estándares, evaluar los resultados y responsabilizar a otros.
Lo que Recursos Humanos necesita para liderar la gobernanza de la IA no es un equipo de ciencias computacionales. Es claridad sobre qué preguntas está obligado a responder, autoridad organizacional para hacerlas, y acceso a los recursos técnicos y de datos necesarios para responderlas.
En la mayoría de las empresas actualmente, Recursos Humanos tiene versiones limitadas de los tres. La autoridad organizacional suele ser la más difícil de construir, porque requiere que los CHRO reclamen un territorio de gobernanza que otras funciones han ocupado por defecto.
Ese reclamo debe hacerse a nivel de la alta dirección. Un comité de gobernanza de IA que esté completamente dentro de Legal e IT producirá marcos de riesgos legales y técnicos. Incluir a Recursos Humanos como participante en el marco de otra función no cambia de quién se responden primero las preguntas.
Los CHRO con los que hablo y que han construido una gobernanza efectiva de IA centrada en las personas, normalmente lo han hecho estableciendo con claridad la responsabilidad de Recursos Humanos antes de que se tomen decisiones de implementación, no tratando de insertar su influencia de manera retroactiva en un proceso ya estructurado en torno a otras prioridades.
El fallo de la herramienta de selección de Amazon ocurrió porque la organización que la creó no tenía una función con propiedad clara sobre la pregunta "¿Son estos resultados justos para las personas evaluadas?" Legal preguntó por la responsabilidad jurídica. Ingeniería preguntó por el rendimiento. Ninguna de estas preguntas capturó lo que realmente estaba saliendo mal.
La IA empresarial ahora toma o influye en decisiones sobre quién es contratado, quién es promovido, cómo se evalúa el desempeño y cómo se supervisa el trabajo a una escala que supera con creces lo que podría lograr cualquier gerente individual. Con la entrada en vigor total de la Ley de IA de la UE para sistemas de empleo en agosto, esa ambigüedad se está convirtiendo en un riesgo de varias maneras.
Recursos Humanos fue contratado para proteger a las personas dentro de las organizaciones. La gobernanza de la IA es ahora uno de los principales contextos en los que esa responsabilidad debe ejercerse. Esta función o reclama ese terreno o lo cede a marcos construidos para responder a otras preguntas.
