La responsabilidad se diluye: Dentro del vacío de rendición de cuentas de la IA
Realidad del rechazo: Los sistemas de IA están realizando rechazos de solicitudes de empleo sin revisión humana, lo que plantea cuestiones legales de responsabilidad.
Brecha de gobernanza: La gobernanza de la IA carece de una responsabilidad clara, ya que las políticas no asignan la titularidad sobre los impactos de las decisiones.
Responsabilidad de la IA: Los tribunales se preguntan quién debe supervisar las decisiones de la IA, responsabilizando a los empleadores por resultados discriminatorios generados por la IA.
Desalineación de políticas: Las políticas existentes no se adaptan a los cambios organizacionales, lo que genera problemas de gobernanza con las herramientas de IA.
Implicaciones legales: La Ley de IA de Colorado marca un precedente para la responsabilidad de la IA, influyendo en decisiones laborales y estándares legales en todo el país.
A la 1:50 de la madrugada, Derek Mobley recibió una negativa. Había postulado menos de una hora antes. Ningún gerente de contratación había revisado su currículum, ningún reclutador había evaluado su experiencia.
El sistema lo procesó, emitió un veredicto y siguió adelante antes de que alguien en la empresa hubiese comenzado su jornada laboral. Mobley, que es afroamericano y mayor de cuarenta años, presentaría candidaturas a más de cien empleos a través de la plataforma de Workday y sería rechazado en todas las ocasiones.
La demanda que interpuso en 2023 es ahora una acción colectiva nacional certificada, que podría involucrar a cientos de millones de postulantes. Workday sostiene que no es el empleador, lo que técnicamente es cierto. Los empleadores dicen que ellos no tomaban las decisiones, lo que también es técnicamente cierto. Un tribunal federal ha decidido que el hecho de que esos dos puntos se den juntos es precisamente el problema.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Cuando una plataforma ejerce juicio, no solo aplicando criterios sino participando en la decisión, funciona como un agente del empleador. Por lo tanto, el empleador hereda la responsabilidad. Lo que los tribunales están planteando ahora no es si la IA tomó una mala decisión. Es quién debió haberla estado supervisando.
Esa pregunta ha llegado a los escritorios de los CHRO. No porque se hayan ofrecido para ello, y ciertamente no porque tengan la autoridad, el presupuesto o la infraestructura legal para responderla. Sino porque alguien tiene que hacerlo, y son lo más parecido que la mayoría de organizaciones tiene a una persona responsable del riesgo relacionado con las personas que la IA está generando a gran escala.
Propietario en Todas Partes, Responsable en Ninguna
Sean McIntire, Director Legal de PEBL, ha visto cómo las organizaciones crean políticas de IA con genuino cuidado, solo para verlas disolverse en algún punto entre la suite ejecutiva y las personas que realmente toman decisiones.
"Propietario en todas partes, responsable en algún lugar", comentó durante un panel sobre riesgos de IA en Transform en Las Vegas esta semana. La construcción suena como una solución. No lo es.
Él hace la comparación con el RGPD. Cuando esa regulación llegó, las empresas se apresuraron. Muchas no tenían una imagen clara de dónde residían sus datos personales, quién los procesaba o cuáles eran realmente sus obligaciones.
El caos fue real, pero también actuó como catalizador. Las organizaciones que salieron de ello con sólidos programas de gobernanza de datos no solo se volvieron conformes, sino que construyeron infraestructuras que resultaron duraderas.
El argumento de McIntire es que la IA se encuentra en el mismo momento previo al catalizador, y la mayoría de las empresas están comportándose exactamente igual que antes de la llegada del RGPD: reaccionando ante la amenaza visible mientras el problema estructural subyacente queda sin abordar.
Ese problema estructural, dicho claramente, es este. Las herramientas de IA entraron en la fuerza laboral principalmente por la vía de la eficiencia, que conduce a contrataciones más rápidas, señales automatizadas de desempeño, referencias de compensación y ciclos continuos de retroalimentación.
Las organizaciones que las implementaron trataron la adquisición y la gobernanza como problemas separados. Legal revisó los contratos. IT aprobó la seguridad. Finanzas firmó el presupuesto. RRHH recibió la implementación y le dijeron que la gestionara.
Nadie estableció claramente quién asumía el riesgo cuando la herramienta tomaba una decisión relevante que perjudicaba a alguien.
El enfoque de McIntire lo capta exactamente. La gobernanza de IA, en la mayoría de las organizaciones, es difusa por diseño. La política existe. El grupo de trabajo existe. Las pautas de uso existen. Lo que no existe es una persona nombrada que cuente con la autoridad y los recursos para ser responsable cuando algo sale mal.
El Comité No Está Presente a las 2 a.m.
Los datos lo hacen concreto. Una encuesta de Gartner a más de 1.800 líderes ejecutivos halló que el 55% de las organizaciones ahora reportan tener una junta de IA o un comité de supervisión dedicado. Eso suena a progreso, hasta que se observa la cifra complementaria que aporta McKinsey: solo el 28% de las organizaciones afirman que el CEO asume responsabilidad directa por la supervisión de la gobernanza de IA.
Las juntas tienen resultados aún peores, ya que solo el 17% incorpora formalmente la gobernanza de IA en las cartas de sus comités.
Los comités existen. La responsabilidad no los acompaña.
Vittoria Reimers, quien lidera el área de personas en Juniper Square y ha construido uno de los modelos de gobernanza de IA más serios operativamente que se pueden encontrar en una empresa mediana, no confía demasiado en los comités por sí solos.
«Tu primera línea de defensa son tus personas y tus procesos. El comité de gobernanza simplemente no va a estar presente para la decisión que alguien toma en una fracción de segundo a las 2 de la mañana.»
A lo que ella apunta es a una realidad organizacional que los marcos de gobernanza rara vez contemplan. Las decisiones que generan el mayor riesgo no se toman en las salas de comité. Las toman los ingenieros que desarrollan funcionalidades de modelos contra reloj, los gerentes que actúan sobre alertas de desempeño generadas por IA para recomendar despidos, o los reclutadores que evalúan candidatos con herramientas de filtrado cuya lógica subyacente no comprenden del todo.
El aparato de gobernanza opera en un nivel de abstracción que no corresponde al trabajo real.
Reimers desarrolló una respuesta práctica a esto en Juniper Square. Su equipo creó lo que llamaron ACE. Son aproximadamente de diez a doce empleados distribuidos en toda la organización, funcionando como asesores informales de IA mientras mantienen sus roles habituales.
La propuesta era directa: si estás construyendo algo y no sabes si es seguro o escalable, acude a ACE. La participación la sorprendió. La gente acudía, de forma constante, porque finalmente disponían de un proceso que abordaba los problemas reales a los que se estaban enfrentando, y no un documento de políticas que se mantenía distante.
Pasa mucho tiempo en tu política de uso, tu consejo de gobernanza, tu comité de gobernanza", dijo. "Luego invierte diez veces ese tiempo en tu gente: su capacitación, su formación, tu cultura.
El modelo ACE no resuelve la cuestión de la responsabilidad en la cúspide de la organización. Pero sí logra algo que la estructura formal de gobernanza no puede: lleva la responsabilidad al lugar donde realmente se toman las decisiones.
Lo que heredó RR. HH.
Matt Poepsel ha estado reflexionando sobre esta brecha desde otro ángulo. Como Vicepresidente de Optimización del Talento en The Predictive Index, trabaja de cerca con líderes de recursos humanos que navegan la distancia entre lo que promete la IA y lo que realmente entrega cuando se implementa sin un contexto organizacional.
Cuenta una historia sobre un periodo de su propia carrera como gerente en la que carecía del contexto necesario para liderar bien; cuando tomó decisiones de las que luego se arrepintió, no por mala intención, sino por información incompleta.
Eso, sostiene, es exactamente lo que está haciendo la IA ahora mismo, a escala, en cada organización que implementó una herramienta genérica y esperaba que entendiera las particularidades de su fuerza laboral.
«Dicen que tenemos que mantener al humano en el circuito. Yo diría que debemos mantener a recursos humanos en el circuito. Veo que RR. HH. lucha con lo mismo que me pasaba a mí cuando estaba demasiado enfocado en la parte técnica de la ecuación.»
Esa marginación es en parte estructural y en parte histórica. RR. HH. pasó años intentando ganarse un lugar en la mesa empresarial. Cuando llegaron las herramientas de IA, a menudo se presentaban como una forma para que RR. HH. demostrara el ROI a través de ciclos de contratación más rápidos, reducción de costos de rotación y cumplimiento automatizado.
Ese enfoque convirtió a RR. HH. en mero beneficiario de la implementación de IA, no en su arquitecto. La conversación sobre gobernanza, cuando existía, solía involucrar a legal, TI y finanzas. A RR. HH. le tocaban las herramientas. La responsabilidad sobre ellas se asignaba en otro lado, o a ninguno en particular.
La crítica de Poepsel es contundente: la IA genérica no conoce tu organización. No conoce tu cultura, tu dinámica de comportamiento, tu historia, ni las poblaciones específicas sobre las que está tomando decisiones.
Lo que produce es un resultado que suena plausible pero carece del contexto que cualquier profesional de RR. HH. experimentado detecta por instinto. Cuando la IA identifica a alguien como un caso atípico en el desempeño, califica a un candidato o recomienda ajustar la remuneración, trabaja con patrones que no saben nada de la persona delante de ellos. El líder de RR. HH. que ha estado en la sala durante tres años sí lo sabe.
Si la IA puede hacerlo, por definición está comoditizado, dijo Poepsel. "Lo que tú aportas es la diferenciación.
Eso es incómodo, pero importante. El valor de RRHH en una organización asistida por IA no radica en la ejecución: las herramientas pueden hacer eso más rápido. El valor está en el juicio: saber cuándo la salida es incorrecta, cuándo el contexto importa, cuándo una decisión conlleva consecuencias que el modelo no puede percibir.
Esa capacidad de juicio es precisamente lo que desaparece en las organizaciones que implementan IA sin rediseñar los procesos y roles a su alrededor.
La función de presión legal
El 30 de junio de 2026 entra en vigor la Ley de IA de Colorado, convirtiéndose en la primera ley estatal del país en imponer obligaciones de gobernanza integral tanto a desarrolladores como a implementadores de sistemas de IA que influyen en decisiones laborales trascendentales.
Los requisitos son sustanciales. Los empleadores deben mantener programas documentados de gestión de riesgos, realizar evaluaciones de impacto anuales, notificar a los empleados cuando la IA haya influido en una decisión que les afectó y reportar resultados discriminatorios a la fiscalía general del estado.
La ley recomienda el Marco de Gestión de Riesgos de NIST como el estándar operativo de cumplimiento. Se aplica independientemente del tamaño del empleador.
Colorado podría tener un impacto mayor del esperado aquí. Otros estados están observando, y el grupo de trabajo regulatorio que el gobernador Jared Polis conformó alcanzó un consenso unánime sobre revisiones tan recientemente como este mes, lo que significa que la forma final de la ley aún se está definiendo, pero no así su nivel de ambición.
Mobley explica por qué esto importa más allá de las fronteras de Colorado. La corte no necesitó una ley estatal de IA para determinar que Workday podía ser considerado responsable como agente de los empleadores que usan su plataforma.
La teoría de agencia, según la cual la participación en una decisión trascendental crea una responsabilidad compartida, ya se está aplicando a las herramientas de IA actualmente, conforme a los estatutos federales existentes contra la discriminación. Un empleador no tiene que operar en Colorado para enfrentarse al argumento de que delegó una decisión de contratación a un sistema que ejerció un juicio real, y que ese juicio produjo un resultado discriminatorio a la 1:50 de la madrugada mientras todos dormían.
La exposición legal está directamente ligada al vacío de gobernanza. Un empleador que no pueda demostrar quién revisó la herramienta de IA antes de su implementación, quién la supervisa en busca de patrones discriminatorios y quién es responsable de sus resultados no tiene una defensa significativa cuando se impugna una decisión. El comité tuvo una reunión. Nadie estaba prestando atención.
Rediseñando quién es responsable de qué
Chelsea Gregory, de la empresa de IA en salud Suki, supervisó recientemente la revisión del manual del empleado. En Transform ofreció a la audiencia una ilustración de primera mano sobre cómo se presenta la brecha de gobernanza antes de que se convierta en un problema legal.
Una política flexible de PTO que funcionó bien con un equipo pequeño empezó a generar quejas sobre equidad a medida que la empresa crecía. Un gerente aprobaba permisos extendidos para empleados nuevos mientras el personal con más antigüedad sentía que la política se aplicaba de forma inconsistente. Nada era malintencionado. Simplemente, la documentación no había mantenido el ritmo de crecimiento de la organización.
La misma dinámica ocurre con las herramientas de IA. Las políticas diseñadas para un contexto de implementación no se transfieren automáticamente cuando la organización crece, la fuerza laboral cambia o la herramienta se actualiza.
«¿Tienen la documentación y los procesos adecuados? ¿Y cómo verifican que sean precisos y cumplan con su propósito?»
En la mayoría de las organizaciones, nadie es formalmente responsable de comprobarlo.
Cerrar esa brecha requiere algo más sustancial que un mejor documento de políticas. McIntire sostiene que es necesario integrarlo; en otras palabras, el riesgo de IA no debería considerarse fuera del marco de gestión de riesgos empresarial como una categoría separada y exótica. Debería estar dentro de la arquitectura de riesgos existente, con la misma claridad sobre la responsabilidad que se aplica a cualquier otra exposición operativa.
La pregunta entonces es: ¿las personas que gestionan los procesos de riesgos existentes tienen la autoridad, la formación y el acceso organizativo necesarios para aplicarlos a la IA?
Reimers y Poepsel llegan a la misma conclusión por caminos diferentes. El modelo ACE funciona porque sitúa la responsabilidad cerca del trabajo. El marco multiplicador de RRHH funciona porque deja explícito lo que RRHH aporta de manera única: conocimiento organizativo, contexto conductual, la capacidad de contrastar el resultado de un modelo con el ser humano afectado. Ninguno sustituye la gobernanza formal. Ambos hacen que esa gobernanza formal tenga sentido.
Lo que se les está pidiendo a los CHRO es que asuman la responsabilidad por las decisiones de IA sin tener ahora mismo la autoridad para gobernarlas, y se trata de una falla estructural que se está interpretando erróneamente como un problema de talento.
Las organizaciones que lo tratan como lo segundo probablemente seguirán llenando plazas en comités que no tienen un peso real. El verdadero trabajo consiste en rediseñar cómo se distribuye la autoridad de gobernanza en toda la alta dirección, para que la responsabilidad y el poder avancen juntos.
La investigación de Gartner para 2025 lo expresa claramente: menos de uno de cada cuatro líderes de TI asegura tener mucha confianza en que su organización pueda gestionar la gobernanza al implementar herramientas de IA generativa. Más empresas que nunca antes cuentan con estrategias formales sobre el papel. Muy pocas han logrado ponerlas en práctica con éxito.
La brecha entre una política y una estructura de gobernanza con verdadera rendición de cuentas es donde reside el riesgo. También es, según la trayectoria de la litigación, donde se presentará el próximo grupo de demandas.
