Los esfuerzos de IA empresarial están resolviendo el problema equivocado de confianza
Definición de confianza: La confianza varía en las empresas; una definición implica la seguridad, mientras que las perspectivas de los empleados a menudo son ignoradas.
Seguridad primero: Francis deSouza enfatiza la arquitectura de seguridad como base para la confianza en la IA dentro de las organizaciones.
Necesidades de transparencia: La honestidad sobre las interacciones proveedor-cliente es vital, pero no equivale a equidad o voz para los empleados.
La palabra "confianza" apareció docenas de veces en dos sesiones sobre IA empresarial en HumanX la semana pasada. Lo que surgió de esas sesiones fue la prueba de que confianza no siempre significa lo mismo dentro de la organización.
Para Francis deSouza, COO de Google Cloud, la confianza comienza con la arquitectura de seguridad.
"No existe conversación sobre IA sin una conversación sobre seguridad", dijo, detallando cómo las empresas deben enfrentarse a nuevas superficies de ataque, amenazas agenticas y la necesidad de reconstruir las estrategias de datos desde cero antes de desplegar IA a gran escala.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Cuando describió empleados descargando herramientas fuera de la supervisión de TI, lo planteó como un problema de gestión de riesgos. La solución es una plataforma autorizada, gobernada y auditable.
En una sesión aparte sobre la creación de sistemas de IA que generen confianza en el usuario, Wendy Gonzalez de Sama ofreció una vía de entrada distinta. Ella relató una conversación que tuvo con un colega justo antes de subir al escenario. La preocupación no era la pérdida de empleo. No es una cuestión de seguridad. Ningún modelo de amenazas la aborda.
Ni siquiera se trata de, ¿esto me va a quitar el trabajo? Era más bien, si la gente ve mis mensajes, ¿pensarán que no soy tan inteligente?
La brecha está a la vista
Este es el problema. Los despliegues de IA empresarial están creciendo en sofisticación respecto a la definición técnica de confianza — seguridad, fiabilidad, auditabilidad, validación de modelos. Están mucho menos desarrollados en el aspecto humano: si los empleados creen que los sistemas que moldean su trabajo son justos, honestos sobre sus limitaciones y construidos teniendo en cuenta a las personas internas.
Las organizaciones están confundiendo ambos conceptos. Si se construye una plataforma de IA segura, conforme y bien gobernada, parece que el problema de confianza está resuelto. Lo que se resuelve en realidad es la definición del proveedor que aparece en auditorías de seguridad y marcos de cumplimiento.
La definición del empleado permanece en gran parte sin abordar y, en la mayoría de las conversaciones sobre IA empresarial, ni siquiera se plantea.
Christina Casioppo de Vanta ofreció lo que ella llamó la articulación más clara de la confianza empresarial: la responsabilidad de "hacer lo que se promete".
En otras palabras, si dijiste que ibas a hacer X y estás haciendo Y, dilo. Es un estándar razonable, pero es un estándar de empresa a empresa sobre cómo un proveedor gana la confianza de un cliente. Lo que se debe a los empleados recibe menos atención.
El momento más sincero de la sesión llegó cuando Casioppo describió el enfoque de Vanta sobre transparencia interna: decirles a los nuevos empleados, desde el principio, que en caso de conflicto, los clientes tienen prioridad.
La lógica es que divulgarlo suaviza el impacto posterior de sentirse despriorizado. Es honesto. Pero las prácticas de transparencia en IA no son lo mismo que la equidad, y saber tu lugar en la jerarquía no es lo mismo que tener algún poder sobre él.
Gonzalez se acercó más al modelo de confianza del empleado cuando describió permitir que grupos de trabajadores probaran diferentes herramientas, compartieran qué funcionó y qué no, y celebraran ambos resultados.
Ella lo planteó como una forma de construir confianza genuina en lugar de imponer una plataforma desde arriba. Esto es sustancialmente diferente a simplemente obligar a adoptar y medir los números. Pero aún así, se detiene en la adopción.
La confianza, en el sentido que debería importar a los CHRO y COO, significa algo más: ¿creen los empleados que la IA se implementa de formas que tienen en cuenta sus intereses, que las decisiones que influye son justas y que hay algún lugar al que acudir cuando no lo son?
Cuando el sistema se convierte en el que decide
La capa agentica hace que esto sea más urgente. Gonzalez marcó una distinción que da en el centro del asunto.
Es una cosa confiar en un resultado, es otra confiar en todo un sistema." — Wendy Gonzalez, Sama
Cuando la IA responde a una pregunta, una persona puede evaluar la respuesta. Cuando la IA está asignando tareas, señalando el rendimiento o influyendo en quién recibe qué oportunidad, a menudo la persona trabajadora no puede ver el sistema en absoluto. Los estándares de transparencia que tienen sentido a nivel de modelo no se extienden automáticamente a las personas que viven dentro de los resultados del modelo.
DeSouza describió el objetivo a largo plazo como construir una fuerza laboral "bilingüe" — fluida tanto en su función como en IA. Señaló las hackatones internas de Google, donde el equipo de RR. HH. ganó dos veces seguidas, como evidencia de que una adopción amplia puede producir verdadera fluidez en todas las funciones.
Es una señal útil. Pero la fluidez en una herramienta no es lo mismo que la confianza en el sistema al que pertenece esa herramienta. Las personas empleadas pueden ser usuarias muy competentes de IA y, aun así, no tener visibilidad sobre cómo se está usando la IA para evaluarlas, clasificarlas o reasignarlas.
La fuerza laboral exitosa del futuro será bilingüe en toda función. Todo el mundo conocerá su función y la IA.
Ambas sesiones fueron sustanciales. Las ponentes fueron reflexivas. Lo notable no es lo que alguna de ellas se equivocó, sino lo que la conversación sobre la IA en la empresa, en su conjunto, aún no ha logrado abordar.
La seguridad y el cumplimiento son problemas reales, urgentes y realmente complejos. Pero describen la infraestructura de la confianza, no la experiencia de la misma. Para las personas empleadas a quienes se les pide construir su vida laboral en torno a estos sistemas, esa distinción lo es todo.
