La brecha entre paneles y decisiones que un equipo de datos no puede solventar
Índice de éxito de la IA: Solo el 5 por ciento de las iniciativas de IA logran los resultados empresariales deseados, lo que revela problemas sistémicos.
Preparación organizacional: El fracaso de los proyectos de IA a menudo proviene de que las organizaciones no están preparadas para la transición.
Diagnóstico del problema: Las empresas frecuentemente identifican mal el problema real, lo que lleva a una implementación de IA equivocada.
Participación de los interesados: Involucrar a las partes interesadas desde el principio puede prevenir la resistencia y mejorar la aceptación de las herramientas de IA.
Alfabetización en gobernanza: Comprender el uso responsable de la IA es crucial para los tomadores de decisiones sin antecedentes técnicos.
Sin duda, ya habrás oído la noticia. Gartner estima que solo el 5% de las iniciativas de IA cumplen con los resultados empresariales prometidos.
Esa cifra se menciona mucho cuando hablamos de inteligencia artificial, ya sea como una condena a la tecnología o como una acusación a nuestra capacidad para utilizarla de forma efectiva.
Beverly Wright ha estado observando este patrón repetirse desde antes de que existieran la mayoría de los proveedores de IA actuales. Ella comenzó en ciencias de la decisión a principios de los años 90, cuando solo había tres programas de posgrado en el país y tal vez 20 graduados por año.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
"Teníamos un problema similar", dijo en la conferencia Optimized AI en Atlanta la semana pasada. "Pero ahora el problema es a gran escala y con automatización. Es un problema aún mayor".
Wright pasó décadas en roles de ciencia de datos en Southern Company y Cox Communications antes de pasar a la educación ejecutiva en la Universidad Estatal de Georgia. Su diagnóstico de por qué las inversiones en IA siguen fracasando va en contra de lo que la mayoría de los proveedores tecnológicos quieren oír: el problema es organizacional.
Lo siento, proveedores. Este no es un problema que les toque a ustedes resolver.
El verdadero problema rara vez es el que identificaste al principio
Wright comenzó su sesión con una historia sobre ascensores. Hace mucho tiempo, los edificios recibían quejas de que los ascensores eran demasiado lentos. La solución obvia era hacerlos más rápidos. Pero el verdadero problema, resultó ser, no era la velocidad. Era el aburrimiento. Obligados a esperar en silencio o, peor aún, en compañía de desconocidos, el aburrimiento de las personas creaba una incomodidad que hacía que la espera del ascensor se sintiera innecesariamente larga.
¿Entonces, cómo se resolvió? Con espejos. Eso fue todo. No se necesitó ingeniería.
Esa brecha entre el problema aparente y el problema real es donde la mayoría de las iniciativas de IA fracasan. Las empresas formulan un reto empresarial, lo delegan a un equipo de datos y esperan que el modelo haga el trabajo de diagnóstico. No lo hace.
"Encontrar el verdadero problema es mucho más difícil de lo que pensamos", dijo Wright.
Recurrir a la IA antes de definir qué decisión tiene que respaldar es, en su opinión, la primera de las tres razones por las que el 95% de las iniciativas no generan resultados.
La segunda es la explicabilidad. Cuando una calculadora te da una respuesta, puedes comprobar que tenga sentido. Conoces la magnitud aproximada de lo que has preguntado. Los sistemas de IA basados en redes neuronales no permiten ese tipo de verificación intuitiva.
Esto importa en todos lados, pero es especialmente crítico en sectores regulados donde la revisión humana es obligatoria por ley. Lo que Wright observa en la práctica es que las organizaciones marcan esa casilla usando IA para evaluar a la propia IA. El humano en el circuito no entiende lo suficiente lo que hace el modelo como para detectar errores.
El tercer motivo de fracaso es el que nadie quiere aceptar: que la organización simplemente no estaba lista.
Wright distingue entre habilitación tecnológica y habilitación cultural, y observa que las empresas las tratan como secuenciales en vez de paralelas. Primero construyen, luego preguntan si las personas están preparadas para utilizar lo que se ha desarrollado. En ese punto, la respuesta suele ser que no, y la inversión se deja de lado.
Utilizó los tornados como ejemplo: solo alrededor del 0,1% causan daños graves, pero el miedo a esa fracción moldea cómo todos responden ante ellos. La resistencia al cambio funciona de la misma manera. El riesgo percibido de adoptar algo nuevo supera al riesgo demostrado de no cambiar, incluso cuando los números dicen lo contrario.
«Normalmente hay más daño por no hacer nada. Piensan que están evitando riesgos, pero el riesgo es mayor si no se hace nada.»
Nunca debería haber un “ta-da”
Cuando Wright habla de lo que realmente funciona, no hace comentarios sobre la inversión en tecnología. Lo que describe, en cambio, es cómo las organizaciones reconstruyen su relación entre el análisis y la acción.
Empieza por la decisión, no por la herramienta
Wright es clara respecto a la dinámica de presión de los consejos directivos, donde las empresas anuncian iniciativas de IA para mover el precio de las acciones y el anuncio se convierte en el objetivo.
Esa es la razón equivocada para asumir un proyecto de IA", dijo. "Tienes que empezar con una estrategia real que diga aquí está cómo vamos a resolver problemas, y puede que usemos IA o puede que no.
Conozca a la empresa en su estado actual
Esto va en contra de la lógica aspiracional que domina la mayoría de las conversaciones sobre transformación digital. Las organizaciones crean hojas de ruta hacia un estado futuro y luego intentan adaptar sus operaciones actuales a ese modelo.
El argumento de Wright va en la dirección opuesta: comprenda realmente lo que tiene y construya soluciones de IA que beneficien esa realidad.
Involucre a las partes interesadas desde el principio
"No debería haber un momento sorpresa", dijo ella. El modelo de revelación final, donde un equipo de datos trabaja en aislamiento y presenta un producto terminado, es un camino seguro hacia el rechazo.
Cuando la herramienta llega finalmente a las personas que deben usarla, no han participado en definir lo que hace. La resistencia no es irracional. Es el resultado predecible de la exclusión.
El problema de la gobernanza
Wright distingue entre dos tipos de usuarios de IA que ahora existen en la mayoría de las organizaciones: aquellos que provienen del área de datos y análisis, que llegaron a la IA gracias a una acumulada fluidez técnica, y aquellos que provienen de ámbitos operativos o funcionales, a menudo sin la base necesaria para reconocer cuándo algo está mal. Desarrollar una estrategia de preparación para IA requiere entender estos distintos tipos de usuarios.
Esa brecha es un problema de gobernanza, y corresponde a quienes dirigen el negocio, no al equipo de datos. Si las personas encargadas de revisar los resultados de la IA no entienden lo que están evaluando, la revisión es puro teatro. Y el teatro, repetido en suficientes iniciativas, es la razón de una tasa de éxito del 5%.
La solución que recomienda Wright es la alfabetización, no la inmersión. Los líderes de operaciones no necesitan entender las redes neuronales. Deben entender cómo es el uso responsable, cuáles son las protecciones y por qué existen.
"En realidad hace imposible arruinar las cosas", dijo ella, describiendo cómo esa forma de plantearlo suele resonar en audiencias no técnicas. "Y eso es cierto para todos nosotros."
La mayoría de las organizaciones han dedicado una década a construir infraestructura de datos. La brecha entre esa inversión y la toma real de decisiones empresariales es organizacional, y ninguna actualización de plataforma la cerrará.
