¿Crearán los Desarrolladores de IA la Gobernanza que RRHH Necesita?
Cambio en la Gobernanza: La gobernanza de la IA está evolucionando: de la simple conformidad al ser una ventaja competitiva, afectando la compra y el desarrollo.
Demanda Agéntica: Para 2026, el 40% de las aplicaciones empresariales integrarán agentes de IA específicos para tareas, requiriendo nuevos marcos de gobernanza.
Desigualdad del Mercado: A pesar del crecimiento proyectado, el mercado de gobernanza de la IA sigue siendo pequeño, dejando que las organizaciones tengan que abordar las brechas de infraestructura por sí mismas.
Billones están fluyendo hacia la infraestructura de IA y los algoritmos. Pero la parte de la transformación que realmente determina el éxito para las organizaciones —personas, procesos, gobernanza— apenas se registra.
La pregunta en varias sesiones durante HumanX en San Francisco la semana pasada no era si la inteligencia artificial reestructurará cómo operan las empresas. Eso ya lo estamos viendo suceder. En cambio, el enfoque estaba en dónde poner la siguiente apuesta.
En una sesión centrada en la inversión en etapas tempranas, los panelistas nombraron las empresas que más les entusiasmaban: una plataforma de inteligencia de video, un fabricante de embarcaciones de defensa autónomas, una aplicación de bienestar para consumidores. Ninguna de ellas tocaba el ámbito donde la mayoría de las transformaciones de IA realmente fracasan.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Eso, en sí mismo, es una señal de mercado.
Según el informe 2025 Estado de la IA Generativa en la Empresa de Menlo Ventures, las empresas estadounidenses gastaron $37 mil millones en IA generativa el año pasado, un aumento de 3,2 veces frente a los $11,5 mil millones en 2024. La mayor parte, aproximadamente $19 mil millones, se destinó a la capa de aplicaciones —software y productos construidos sobre los modelos subyacentes.
La infraestructura absorbió el resto. Rodrigo Liang, cofundador y CEO de SambaNova Systems, describió la demanda de inferencia como un mercado cuyo crecimiento "aún está por venir realmente". Solo Micron Technology ha comprometido más de $25 mil millones en gastos de capital para abordar la escasez de memoria creada por la expansión de la IA.
Mientras tanto, el mercado global de gobernanza de IA —las herramientas que ayudan a las organizaciones a gestionar cómo opera realmente la IA dentro de su fuerza laboral— fue valorado en $308,3 millones en 2025, según Grand View Research. Menos del 1% de lo que las empresas gastaron en IA generativa en general.
Una respuesta de $308 millones a un problema de $37 mil millones
La investigación de Boston Consulting Group sobre la adopción de IA encontró que el 74% de las empresas tienen dificultades para lograr o escalar valor de la IA a pesar de años de inversión. La razón principal es que aproximadamente el 70% de los desafíos de implementación provienen de cuestiones relacionadas con personas y procesos. Los problemas tecnológicos representan el 20%. Los algoritmos son la capa que atrae más capital, pero solo representan el 10%.
El patrón entre las empresas que realmente escalan resultados sigue la misma lógica del antiguo modelo 70-20-10: los líderes destinan el 70% de su inversión a personas y procesos, el 20% a tecnología y datos, y el 10% a algoritmos.
Ese marco, que tiene su origen en la investigación organizacional del Center for Creative Leadership y ha sido aplicado a la transformación por IA por BCG, se ha vuelto un diagnóstico confiable de por qué los programas empresariales se estancan. La mayoría de las organizaciones están invirtiendo en el 10% y el 20% y se preguntan por qué el 70% no avanza.
El mercado de capital riesgo refleja la misma distorsión. Los inversores en ese panel de HumanX no estaban ignorando el lado organizacional de la IA, simplemente no lo estaban financiando.
La infraestructura de gestión del cambio, el apoyo a la transición de la fuerza laboral y las herramientas de gobernanza son difíciles de convertir en producto. El cambio organizacional requiere especificidad. Se resiste a los modelos de suscripción.
Lo que confirmó el piso de la conferencia
Una sesión separada de HumanX sobre gobernanza de IA hizo concretas las consecuencias. Navrina Singh, fundadora y CEO de Credo AI, ha observado este patrón el tiempo suficiente como para nombrarlo directamente.
«Muchas empresas, cuando hablamos con ellas, dicen: ‘esperemos a que ocurra un incidente y luego, si es necesario, invertimos en gobernanza de IA’. ¿Adivina qué? Para cuando eso ocurra, ya serán irrelevantes.»
Singh, quien trabaja con clientes del Fortune 500 en diez sectores, sostiene que la gobernanza está pasando de ser una cuestión de cumplimiento a una ventaja competitiva.
Saahil Jain, CTO de You.com, lo expresó de manera más directa.
«La gobernanza no es «algo bonito de tener, sino una característica crítica. Nosotros estamos muy enfocados en el sector empresarial, así que en cierto modo, lo veo como una condición necesaria pero insuficiente para impulsar la adopción entre las empresas en un mercado global?»
Ambos describieron un entorno de adquisiciones en el que compradores de empresas Fortune 500, luego de pasar los últimos dos años creando prototipos con proveedores de IA, ahora examinan si esos proveedores pueden ser confiables con los datos y sistemas empresariales.
Singh señaló que la función de gobernanza en sí misma está cambiando de forma, desplazándose de equipos centralizados de cumplimiento a una práctica integrada, con los desarrolladores incorporando salvaguardas en el punto de desarrollo en vez de que los equipos de gobernanza supervisen posteriormente.
Ese cambio es importante porque significa que la demanda de herramientas de gobernanza se está ampliando, alcanzando funciones de ingeniería y producto que antes estaban fuera de la conversación.
El Problema del Agente
La urgencia se acentúa en torno a la IA agentica. Gartner proyecta que el 40% de las aplicaciones empresariales estarán integradas con agentes de IA específicos para tareas a finales de 2026, frente a menos del 5% actual.
Liang, cuya empresa construye infraestructura de inferencia exactamente para este entorno, describió lo que implica esa transición. A medida que los agentes orquestan trabajo de forma autónoma entre sistemas mediante IA para empresas, las organizaciones necesitarán ecosistemas completos para certificar los resultados.
«Industrias como la banca, los seguros, los gobiernos, tienes que producir resultados certificables. Tienes que poder rastrearlo.»
Esa infraestructura apenas existe hoy como producto comercial.
Grand View Research proyecta que el mercado de la gobernanza alcanzará aproximadamente $3.6 mil millones para 2033, una tasa de crecimiento anual del 36% que refleja una demanda genuina. Pero el punto de partida es tan pequeño y la curva de implementación agentica tan pronunciada, que el simple crecimiento del mercado no entregará lo que las organizaciones necesitan en los plazos reales a los que se enfrentan.
El 74% de BCG no es un misterio en ese contexto. El mercado de proveedores se ha optimizado para lo que es escalable y vendible (cómputo, modelos, aplicaciones) y ha dejado que la infraestructura organizacional de la transformación de IA quede en gran medida a cargo de las propias empresas.
Los líderes que hoy tratan la gobernanza como algo fundamental, antes de que el mercado madure, no sólo están gestionando el riesgo. Están construyendo algo que no podrán comprar.
