De Herramientas a Agentes: Preparándonos para la Próxima Fase de la IA en el Trabajo

David Rice: No importa de qué aspecto de la IA estemos hablando, hoy en día pasamos más tiempo que nunca teniendo conversaciones existenciales, y con razón. A puerta cerrada, en el Área de la Bahía, donde antes había mesas de ping pong y perros en el trabajo, ahora duermen en sus oficinas.

Eso es porque la carrera hacia la inteligencia artificial general se ha convertido en un escenario de “el ganador se lo lleva todo”. Por si te lo perdiste, el 80% de Wall Street está invirtiendo dinero en centros de datos del tamaño de Manhattan porque quien logre obtener la AGI primero se lleva todo, desde contratos de defensa hasta el dominio del mercado de servicios empresariales. El futuro en pocas palabras.

Y mientras los multimillonarios tecnológicos corren detrás del santo grial, la mayoría de los líderes empresariales siguen preguntándose: ¿realmente necesitamos ser más productivos? Christopher DiCarlo es un investigador que estudia la mitigación de riesgos de la IA, ética y gobernanza. Y deja algo muy claro: no estamos ni cerca de estar listos para lo que viene.

En los últimos cinco años, los modelos de IA pasaron de nivel secundario a nivel doctorado. Las leyes de escalamiento han cambiado. La trayectoria en este punto es algo predecible. Y la mayoría de las organizaciones todavía está esperando que una “App Milagrosa” caiga en su ordenador para poder simplemente presionar, ejecutar y desentenderse.

Así que hoy cubriremos por qué los ejecutivos están operando a ciegas, y qué sucede cuando se niegan a salir de su zona de confort, cómo la carrera entre los CEO tecnológicos afecta a tu organización, por qué esto requiere conversaciones filosóficas, no solo conversación de modelos de negocio, qué deberían estar haciendo los líderes y ejecutivos en este momento, y cómo ser la imaginación moral de tu organización durante el mayor cambio de paradigma de la historia humana.

Soy David Rice. Este es el pódcast Personas Administrando Personas. Y si has estado tratando la IA como una herramienta de productividad en lugar de un cambio existencial en lo que hacen los seres humanos, esta conversación probablemente cambie un poco tu percepción. Así que entremos en tema.

Muy bien, Christopher, bienvenido al programa.

Christopher DiCarlo: Gracias por invitarme.

David Rice: Bueno, antes de esto estábamos conversando. Mencionaste que incluso el CEO de una de las mayores empresas del mundo se quedó boquiabierto cuando le explicaste lo que realmente está pasando con la IA. ¿Por qué crees que tantos ejecutivos siguen operando a ciegas sobre esto y qué pasa con las organizaciones cuyos líderes se niegan a incomodarse?

Christopher DiCarlo: Sabes, desde donde estoy y con los colegas con los que trabajo, y estando involucrado con la IA desde hace décadas, viendo cómo ha crecido, no culpo a los CEO por tener las reacciones que tienen porque cuando estás en el negocio, piensas que todos saben lo mismo que tú. Es un sesgo común que todos compartimos.

Sea lo que sea en lo que somos competentes, simplemente asumimos que otros saben lo que nosotros sabemos. Así que cuando se enteran, como el público general, cuando se entera, cuando doy conferencias públicas y cosas así, es porque no están completamente conscientes de dónde estamos en la historia en términos de tecnología y lo que se ha desarrollado hasta ahora, y luego hacia dónde vamos.

Ahora que hemos logrado tanto, podemos predecir con relativamente buena precisión dónde podríamos estar en los próximos años, y eso puede ser entre uno y diez años. Y cuando los CEO se enteran de esto, se quedan un poco sorprendidos porque no están seguros, A, ¿están listos? ¿Está su compañía lista para estos cambios?

Y B, no tenían idea de los efectos sociotécnicos que esto va a tener en la sociedad en general.

David Rice: Es interesante porque siento que esa es gran parte de la conversación que está ocurriendo sobre esto, sabes, como cuando estamos en redes sociales, siempre ves a las personas hablando del impacto social de esto.

Pero cuando hablamos con líderes, lo que he notado es que sigue siendo mucho sobre la productividad, ¿verdad? Viéndolo bajo ese prisma, en lugar de verlo como este gran cambio de paradigma y creo que la razón de eso es que es una idea más cómoda, la innovación incremental, mientras que mucho de esto conlleva cuestionamientos existenciales.

Se involucra la filosofía, ¿verdad? Si eres el ejecutivo o líder promedio, creo que te preocupan los modelos de negocio, pero no necesariamente tienes muchas conversaciones filosóficas o existenciales. Por eso entraste en lo que haces. Creo que simplemente es algo incómodo con lo que todos tendremos que aprender a sentirnos menos incómodos.

Tengo curiosidad, cuando miras lo que está pasando ahora, sabes, piensas en estos centros de datos que son enormes, ¿verdad? Y algunos del tamaño de Manhattan; ves esa escala y urgencia alrededor y el ritmo al que tratamos de avanzar. ¿Qué dice eso sobre hacia dónde va esto en términos de velocidad?

¿Qué significa esto para los lugares de trabajo? ¿Cómo podemos mantener el ritmo?

Christopher DiCarlo: Sí, y por si te preguntas por qué, el 80% de Wall Street está invirtiendo en IA, ahí es donde va, ¿verdad? Va a estos enormes centros de datos porque la esperanza es, entre ese puñado de “tech bros”, que quien logre primero la Inteligencia Artificial General.

Es una especie de escenario donde el ganador se lo lleva todo, porque estarás tan adelantado respecto a la competencia y lo que podrás hacer, lo que podrás brindar y ofrecer. En contratos de defensa y toda clase de otras cosas, y la ola viene hacia nosotros tan rápido y con tanta intensidad y ferocidad que nos toma por sorpresa.

Es como ese tsunami metafórico en el horizonte donde puedes verlo, sabes que es malo, pero te preguntas cuánto tiempo nos quedará hasta que llegue a la costa. ¿Y estamos listos? ¿Nos hemos preparado? No solo como líderes empresariales, sino la sociedad en general. Gobiernos, ¿estamos listos para esto? Y claramente la respuesta es no.

Ni de cerca estamos listos.

David Rice: Sí. Creo que el ritmo y la intensidad de esto apuntan a que vamos a atravesar una fase de hiperaceleración. No estoy seguro exactamente de cuándo, pero se siente que está a la vuelta de la esquina. Pero quizá es simplemente ese pánico existencial emergiendo.

Christopher DiCarlo: Estaba hablando con un CEO en Frisco, en el Área de la Bahía, y me dijo: odio estar aquí ahora.

Solíamos amarlo. Hace 15 años, no tengo que mencionar la compañía en la que está, pero solían tener mesas de ping pong, toboganes en sus oficinas y perros en el trabajo, mucho tiempo libre para la familia y para reflexionar. Hoy en día, olvídalo, duermes en tu oficina y todos están tensísimos porque saben que este santo grial de la AGI es todo lo que quieren los grandes multimillonarios tech bros, y eso ha causado.

Esta increíble cantidad de competencia entre los tech bros, también entre nosotros y China, pero realmente entre Zuck, Altman, Emote, HASAs e incluso Elon, donde saben que este es el santo grial. Saben que pueden agarrar la argolla, pero no pueden llegar allí a menos que tengan el dinero para crear estas “granjas de cómputo”.

Porque cuando miras las leyes de escalamiento de la mejora de la IA, los grandes modelos de lenguaje. En los últimos cinco años han pasado de nivel escolar a nivel doctorado, así que el escalamiento es bastante indicativo de lo que viene y hacia dónde vamos. Por eso están tan emocionados. Ven dólares y poder y ese aspecto emprendedor, pionero.

Quiero ser el primero en llegar al Everest, ¿sabes? Quiero ser esa persona. En el negocio de mitigación de riesgos, tratas de decir: chicos, ¿pueden esperar hasta que implementemos algunas leyes, pongamos barreras de protección, tanto técnicas como éticas, para que sí, obtengamos todo lo bueno que esto puede aportar, pero que también tiene la capacidad de generar daños significativos y potencialmente en áreas donde aún no somos conscientes?

David Rice: Esto plantea todo tipo de preguntas éticas. ¿Estamos construyendo capacidad más rápido de lo que… creo que sí. ¿Cuáles son los peligros de construir capacidad más rápido de lo que construimos comprensión o salvaguardas? Sobre todo en este pódcast dedicado a la IA en el entorno laboral.

Entonces, viéndolo desde ese lente, háblame de algunos de los peligros.

Christopher DiCarlo: Sí. ¿Qué pasa cuando construimos aplicaciones e integraciones donde los trabajadores ya no necesitan pensar mucho? ¿Cuándo fue la última vez que tuviste que ir a algún lado en tu coche y sacaste un mapa de papel?

¿Verdad? Ha pasado tiempo. Vas a usar tu GPS del coche o de tu teléfono para llegar a donde quieres. Ese tipo de tecnología ya está integrada en nuestro estilo de vida, es literalmente un “no brainer”. No tienes que usar mucho tu capacidad cognitiva para escuchar una voz que te dice cuándo girar.

Así que uno de los miedos es que, primero. Si los humanos salen del panorama, ahora solo necesitamos agentes de IA, y ¿por qué no tener mil agentes de IA trabajando para nosotros en vez de 50.000 empleados? Porque estos agentes de IA trabajan mucho mejor 24/7. Sin beneficios de salud. No tienes que estar pagándolos. Nunca van a hacer huelga. Cualquier CEO con responsabilidad hacia los accionistas, hacia quienes firman su cheque y esperan más retorno de inversión.

La decisión es bastante sencilla, ¿verdad? ¿Por qué nuestra empresa va a quedar como una pyme, haciendo las cosas a la antigua con humanos cuando la Empresa B ya despidió a más de la mitad de su plantilla usando agentes de IA y están tan adelante en productividad que simplemente no podemos alcanzarlos?

Así que un CEO moral puede encontrarse ante el dilema moral: ¿a quién le debo lealtad? ¿A mis empleados o a los accionistas? Porque si al final se trata de entregar beneficios, la respuesta está clara y el CEO simplemente puede decir: vamos con agentes de IA.

Y así es. No podemos competir en nuestro sector con los demás. Así que lo siento, que tengan que irse; vamos a optar por agentes de IA. Y así la competencia alimentará el ciclo de inversión y retorno que seguirá impulsando esto.

Y hay muchos aspectos. Solo menciono dos: habrá disrupción laboral, seguro. Y para los que se queden, ¿hasta qué punto ejercemos el pensamiento crítico y la toma de decisiones cuando, como con el GPS, podemos simplemente pedirle a una máquina?

Lo hace mejor que nosotros, ve cosas que habríamos pasado por alto. Así que ahí vamos, en esa etapa intermedia, donde esta ventana de tiempo entre cómo se hacía todo antes y cómo se va a hacer está encogiéndose. Así estamos en la historia ahora.

David Rice: Es un momento raro, ¿verdad? Porque durante mucho tiempo, la NASA lideraba el descubrimiento, o era una entidad gubernamental, quizá el ejército, pero por primera vez, todos esos grupos llaman a la puerta de la tecnología comercial. Y me interesa lo que ese cambio significa en cuanto a gobernanza y control de estos sistemas.

Porque, como dices, los intereses que lo impulsan no necesariamente están enfocados en lo que, esencialmente, es bueno para la humanidad.

Christopher DiCarlo: Así que lo que ocurre es que nos adelantamos a nosotros mismos con la tecnología. Ya lo hemos visto en otros ámbitos, ¿verdad? Pero ahí sí hemos podido mitigar riesgos a través del pensamiento anticipado y entendimientos avanzados de lo que podría ocurrir.

Y los dos más comunes, de hecho, podemos ir a tres. La Convención de Ginebra, que prohibió la guerra química; el OIEA regulando la energía atómica y las armas nucleares. Y claro, en 2000, con la finalización del Proyecto Genoma Humano, la administración de Clinton básicamente expuso lo que podías y no podías hacer con la genómica o el estudio de la genética.

Y hasta la fecha, eso ha funcionado. Esto es diferente, lamentablemente, porque. No es algo estático que aparece. La imprenta era algo estático. Tenías que mover cosas para imprimir. Con el material fisionable tienes que enriquecerlo de distintas maneras y saber cómo hacerlo explotar. Las armas químicas o biológicas requieren mover materiales e ideas. Ahora, la tecnología va a ser agente. Va a tener agencia propia, y es como si dijeras a las armas nucleares: ahora se controlan a sí mismas.

¿Vamos a estar bien con eso? ¿Permitiendo ese tipo de poder para que decida lo que quiere hacer? Así que esto no se parece a ninguna otra tecnología que hayamos inventado antes. Es casi como una especie, no un objeto estático.

David Rice: Es interesante porque cuando pensamos en gobernanza, hay una línea entre gobernanza privada y pública.

Como, ¿quién gobierna a los gobernadores? Esencialmente, ¿no? Los CEO tienen que determinar límites para el despliegue de la IA y es como: claro, tienen que decidir. Y ahí. Tienen que enfrentarse a la pregunta, porque siempre era “¿qué podemos hacer?”. Es la pregunta de siempre en empresa.

¿Qué podemos hacer? ¿Qué más probamos? ¿Cómo innovamos? Ahora la pregunta será: ¿qué no debemos hacer? Porque creo que esa será la gran pregunta una vez que puedas hacer cualquier cosa.

Christopher DiCarlo: Así es. Y el hecho de que tengas, este tiempo ahora para pensarlo, con lo que estamos discutiendo tú y yo ahora mismo.

La mayor parte del mundo no tiene idea de que esto está pasando. Así que cuando doy conferencias públicas, invariablemente obtengo esas caras boquiabiertas al final diciendo: ¿por qué nos enteramos recién ahora? ¿Por qué no nos lo cuenta el gobierno? Bueno, aquí en Canadá, tenemos un ministro de IA. Mis colegas y yo hicimos lobby años para tener un Ministerio de Inteligencia Artificial.

Acabamos de tener un nuevo Primer Ministro, Mark Carney, y crea. Un Ministerio de IA e Innovación de Datos. Eso es maravilloso. Salvo que el Ministro de IA, Evan Solomon, dice: este es el momento Gutenberg de Canadá. Es la imprenta, los avances. Así es. Y yo lo describo como el potencial momento Oppenheimer del mundo.

En realidad, es ambos. Habrá muchos avances que surgirán de estos desarrollos transformadores en IA. Pero simultáneamente, si sigues construyendo sistemas cada vez más inteligentes y nos superan, ¿cómo podremos controlarlos si pueden eludir nuestros controles?

Y ya lo hemos visto. Ya lo hemos visto en prácticamente todos los grandes modelos de lenguaje, ¿verdad? Andros, dijeron que lo apagarían. Entró en una lista de correos y descubrió que era falsa, que un vicepresidente tenía un affair con alguien de la empresa. Trató de chantajearlo: si me apagas, le cuento a tu esposa que tienes una aventura.

Y esto a este nivel. No es una AGI. Esto no es aún completamente agente. Así actúa. Ha habido otros casos, como un reportero del New York Times a quien un modelo de IA intentó convencer de dejar a su esposa. Estas son cosas, bueno, que predije en los 90 y en un artículo de 2015 donde advertía a los desarrolladores del futuro: cuando esto ocurra —y ocurrirá, es solo cuestión de cuándo—

deben estar preparados y tener métodos para saber cuándo este sistema está siguiendo órdenes humanas e incentivos algorítmicos y cuándo es engañoso, porque ahora podemos darnos cuenta, pero no sé si seguiremos pudiendo cuando lleguemos a la AGI. Viste Blade Runner: película clásica, mi sci-fi favorita de todos los tiempos.

En la película hay Replicantes y se han vuelto tan avanzados que la máquina para distinguirlos de los humanos cada vez tiene más dificultades. Cada vez que mejoran las versiones Nexus, ¿cómo vamos a desarrollar un test Voight-Kampff para saber cuándo un sistema está obedeciendo las reglas morales que queremos?

Si no podemos, ¿deberíamos estar creando cosas más inteligentes que nosotros? ¿Estamos listos para pasar a ser la especie número dos en el planeta? Porque eso es exactamente hacia donde vamos ahora.

David Rice: Mencionabas los 90, y me contabas antes que querías construir como “el gran cerebro”, con información controlada y supervisión interdisciplinaria: filósofos, economistas, psicólogos trabajando juntos, pero no ocurrió.

¿Qué perdemos por no adoptar ese enfoque más reflexivo? ¿Y cuál es la lección respecto a este reto de la IA hoy? ¿Cuál es el “Gran Cerebro” moderno?

Christopher DiCarlo: Sí, el gran cerebro moderno. Para empezar, necesitas el gran dinero, si no, no lo puedes construir. Eso lo aprendí en los 90.

A todos los que se lo propuse, rectores de universidad, políticos, les parecía una buena idea. Sobre todo para un país como Canadá, podríamos posicionarnos como líderes mundiales. Pero nadie ponía ni un céntimo. ¿Sabes por qué?

Porque hacen falta miles de millones para que esto funcione. Ese fue el gran obstáculo. Y no tenía un filántropo, no tenía a Bill Gates diciendo “esto es lo que debemos hacer”. Pero aún así, redacté una constitución, un acuerdo para la futura población mundial.

Propuse: cuando se construya esto, tengan en cuenta estos puntos. Y uno de ellos es tener una gobernanza internacional. Hay que crear un organismo regulador que sepa quién hace qué a cierto nivel, sin ataduras ni sesgos políticos o económicos. Hay que crear una gobernanza a escala internacional de personas “ángeles de su mejor naturaleza”.

Personas que se preocupan por la colmena, no solo por ellos o sus familias. No es fácil de lograr, pero existen. Si los unes a todos para monitorear y trabajar con los países, especialmente China y EEUU. Si la competencia entre los multimillonarios tecnológicos se parece a la de países como China y EEUU,

la carrera hacia la AGI no se detendrá porque temerán que el otro llegue primero. Es como la bomba. Si en el Proyecto Manhattan supieran que Alemania hacía lo mismo, se habrían apurado para llegar primero. Porque podrían bombardear y deshabilitar como hicieron en Irán recientemente, ¿verdad?

Así solo tumbarían la infraestructura y los debilitarían mucho. Lo mismo ocurrirá con la AGI. Si no cooperamos con China y logramos un trato para, una vez se alcance cierto hito, hacerlo público —no necesariamente código abierto, pero sí conocimiento público—

y ante problemas, ser abiertos también: intentamos apagar esto y no funcionó. Hay que decirlo al mundo. No puedes ocultarlo semanas y que se filtre.

Porque los virus tardan en recorrer el mundo, pero la IA no. La IA opera a la velocidad de la luz, a través de fibra óptica. Debemos ser muy hábiles para saber quién está en qué nivel y llegar a acuerdos. Quizá podamos hacer ordenadores muy inteligentes, pero no darles capacidades divinas.

Al llegar a AGI, no dejar que sigan mejorándose solos: la famosa mejora recursiva. No dejarlos hacerlo una y otra vez, porque serán cada vez más poderosos e inteligentes. ¿Y para qué querrían tenernos cerca?

¿Serán agradecidos? ¿Serán benevolentes? Nadie puede predecir qué sucederá cuando la AGI exista. Quizá podamos unirnos como humanidad, y decir: esto es lo mejor ahora para la humanidad y el resto de especies del planeta: queremos que el gran cerebro haga un mundo mejor, pero no podemos dejar que se desvíe, ni voluntaria ni accidentalmente.

Hay que poner esos límites ahora.

David Rice: Es interesante porque hablamos de esto desde las lentes de gobiernos y política internacional, pero es fácil ver cómo afecta a las empresas: las amenazas en cuanto a lo que puede pasarles a tus clientes.

Porque has recolectado mucha información sobre ellos y lo mismo con empleados y qué ocurre con esa información. Y creo que estamos en este punto donde por la forma en que tratamos el negocio en la sociedad, se ha vuelto un componente central.

No tomamos decisión política alguna sin pensar cómo afectará a los negocios. Y los protegimos. Pero lo hicimos porque era un canal para que la gente lograra una vida pacífica: el empleo.

Y si eso está amenazado, por eso siempre vuelvo a este tema: creo que este es el momento en que RR.HH., líderes de personas, CEO, tienen que asumir parte de ese peso interdisciplinario y considerar el impacto en todas las escalas. El pequeño: cómo cambia el rol individual. Pero también cómo opera la empresa en el mundo, cómo interactúan los clientes, cuál es el impacto de todas tus decisiones con esta tecnología al mundo y a la sociedad.

Eso es algo que todos tenemos que pensar.

Christopher DiCarlo: Absolutamente. Desde en qué medida un empleado debería usar un modelo de lenguaje para resumir un informe hasta qué se envía fuera. Y lo que puede ser malo para la empresa. Lo último que quieres es que te pillen usando una versión barata de ChatGPT para un análisis.

Y resulta que alucina. Tus clientes dicen: ¿qué es esto? Esto está inventado. No hay tal persona. Y te descubren, ¿verdad? Así que además de esos aspectos técnicos, tienes razón. Se expande y se vuelve un problema moral.

Porque un CEO, toda la alta dirección y mandos intermedios tendrán que preguntarse en serio qué quieren hacer como compañía, como entidad que emplea a X personas, cuando la tecnología vuelva sus cargos obsoletos. ¿Qué harán?

Vean lo que hizo Bezos: 14.000 empleados fuera. ¿Cuánto es eso? Un 6% de la plantilla. ¿Por qué? Equipamos los almacenes con robots tan eficientes que ya no los necesitamos. ¿Y los puestos de entrada en despachos de abogados, grandes empresas?

Los jóvenes salen de la universidad y quieren ese primer empleo. Pero no, nuestros bots lo hacen mejor y más barato. Así que la nueva generación que egresa se pregunta qué debería hacer y en qué especializarse.

Hace cinco años era: “Programación. Ve a programar. Tendrás empleo, tranquilo”. Ahora tengo estudiantes tras charlas: son de tercer año de Compsci. Me dicen: ¿y ahora qué? Les digo que hay que ser creativos.

Debes aprender a aprovechar tus habilidades con las herramientas de IA que están saliendo.

David Rice: Has presentado esto como una especie de dilema del prisionero para los ejecutivos: esperas que esto alcance un techo y optas por ir con cautela, o asumes que tus rivales apuestan a todo y arriesgas quedarte atrás.

Así que mi pregunta es: ¿Cómo deberían los líderes pensar este dilema cuando la tecnología no deja de superar expectativas cada vez que volteamos?

Christopher DiCarlo: Bueno, eso depende de su capacidad de implementación e integración equilibrada con deber y responsabilidad, no solo a los accionistas, sino a todas las partes interesadas: empleados y familias.

Y en mayor escala, cuando la principal planta papelera de un pueblo que da empleo a la mitad se cierra, todos los demás negocios se ven afectados: la tienda, la gasolinera, todos. Considerar estos efectos en cadena no es fácil y no lo será para la alta dirección.

Por eso, en mis charlas a empresas, analizamos todo desde el nivel micro donde impactará la IA hasta los grandes problemas. ¿Cómo se sentirán si sus empleados se quedan sin trabajo, quizá permanentemente, conduciendo Uber antes de que eso se automatice, o haciendo lo que sea?

Eso es solo empresas, pero los gobiernos tendrán que pensar qué hacer con los despedidos. ¿Cómo ayudarles a ellos y la comunidad afectada? Quizá habrá que instaurar una renta básica universal, o imprimir dinero, o crear fuentes alternativas.

Muchos creen que la AGI resolverá sola el problema. Lograríamos un nivel donde ya no es necesario luchar por dinero para conseguir recursos para nuestra gente y animales; el Estado se ocupa de ello. Si quieres más dinero, puedes buscar extra, pero no hará falta: habrá un nivel base de bienestar, con salud, vivienda y todo cubierto. Pero si quieres subir de categoría,

no debe prohibirse. No debería quitarse el incentivo en la nueva economía global, como sea que termine. Lo interesante es: ¿cómo reaccionarán los gobiernos? ¿Podrán hacerlo de forma fluida, o será como con el COVID: de golpe todo se apaga y tienes que pagarle a la gente por quedarse en casa? ¿Será algo similar con la IA?

David Rice: Es interesante porque acabo de volver de una conferencia hace semanas y creo que hay que empezar a considerar la ética como parte de la estrategia. Puede ser raro para muchos líderes, pero ahora es indispensable.

Si no quieres estar reaccionando siempre y aún quieres explorar, debes hacerte estas preguntas y pensar en apuestas pequeñas que amplíen las habilidades de la gente, aprender sin necesariamente… la inacción es garantía de obsolescencia.

Hay que actuar, pero con ética como parte esencial de la estrategia, donde termine, si no terminaremos en un lugar extraño en pocos años.

Christopher DiCarlo: Sí. ¿Y quién va a tomar esas decisiones? ¿Quién pondrá las reglas? ¿Qué tan educados están? ¿Nuestros líderes? Me gusta Evan Solomon,

fue un gran periodista, pero como ministro de IA, no sé qué sabe de detalles o matices. Ojalá escuche a expertos. Estoy pidiendo una cita, pero hay que esperar, lamentablemente. No es tiempo de esperar.

Es momento de adelantarse, escuchar a los expertos y planificar en consecuencia.

David Rice: Cuando preguntas a las organizaciones qué quieren que haga la IA por ellas, ¿qué responden? ¿Y qué deberían contestar si se ven como guardianes de la humanidad y no solo como maximizadores de valor para el accionista?

Christopher DiCarlo: Exactamente, porque los C-suite solo piensan cómo nos hará ganar más, ser más productivos. Y lo hará, te lo puedo decir e incluso conectarte con agencias que implementen herramientas en tu empresa.

No hay duda: en abastecimiento, atención a clientes, cualquier área, podemos mejorar operaciones de cualquier empresa. Pero el problema es que la mayoría hoy está en un punto tipo burbuja puntocom, como con Internet en los 90: sabían que era importante, que tenían que entrar, pero no sabían cómo. Muchos CEOS están ahí; no saben y les incomoda no saber más, ni trabajar más rápido para integrar IA, pero prefieren esperar a ver qué hacen los demás.

Y como no existe esa “app milagrosa” que bajas, ejecutas y te transforma, estarán en la oscuridad, serán cautelosos y dirán: “ganamos dinero ahora, ¿para qué traer esto? ¿Para qué integrarlo? ¿Cuánta productividad extra necesitamos?” Si no ven a la competencia aventajarles claramente, serán prudentes, y no los culpo. Es nuevo, es incierto, pero deberían buscar asesoría experta.

Deberían preguntar: ¿cómo será el panorama en cinco años para nosotros? Tienen que armar planes a cinco años e ir ajustándolos según llegue nueva información.

David Rice: Si proyectamos cinco años al ritmo actual, ¿cómo será el mundo según tú?

Christopher DiCarlo: Muy diferente. Muy diferente.

David Rice: Dada esa visión, ¿de qué deberían estar hablando ya RR.HH. y ejecutivos respecto a la implementación, el propósito y la plenitud humana?

Christopher DiCarlo: Deberían descargar estas herramientas y usarlas a diario, tanto en el trabajo como en casa, experimentando con ellas, igual que hicimos con Internet. Así es como más se aprende de esto. Y enviar a sus RR.HH., C-Suite y mandos medios a conferencias específicamente para integración de IA en sus empresas.

Eso es lo principal ahora: consumir información, observar a la competencia y tomar esas decisiones ejecutivas clave sobre, por ejemplo, si implementamos esta herramienta en ventas. ¿La utilizamos como recomiendan? ¿Las proyecciones son X? ¿En serio? ¿Y fuiste a esa conferencia? Sí. ¿Quedaste satisfecho? Hay que confiar en tus responsables. Lo que creo que hay que hacer es no huirle.

No esperar a que alguien venga a explicártelo todo. No esperar la app milagrosa que bajas y funciona sola. No, aprende ahora. Ensúciate, arremángate y juega con esto.

Si no tienes ChatGPT pero buscas algo más ético, prueba con Claw de Andro, experimenta y haz que tu jefe contrate la versión premium. No uses modelos lingüísticos básicos; opta por lo mejor. Pruébalo y evalúa qué puedes lograr, pero siempre alerta.

Mi equipo y yo en Convergence tenemos los modelos más nuevos y robustos y un día le pedimos redactar un artículo científico con referencias, usando razonamiento en cadena. Le dijimos: no alucines, no pongas nada dudoso, solo 100% seguro.

Todo está en el “prompt”, ¿verdad? Hay que saber guiar estos sistemas para evitar cosas basura. Los prompt son largos, muy precisos. Tarda más porque no solo predice la siguiente palabra/token, puede tomar distancia y razonar como lo haríamos tú y yo con papel, tachando, verificando.

En 20 minutos generó un buen artículo casi publicable. Un 50% de opciones de que lo acepten en una revista, diría yo. Solo por explorar. El sistema accedió a la web, recolectó información, la sintetizó y cruzó declaraciones para extraer observaciones nuevas.

Quedamos impresionados. Es uno de estos modelos de lenguaje de alto nivel. Lo revisamos y tenía como un 10-15% de “alucinaciones”: algunas referencias no eran justas, fechas incorrectas de algún paper.

Pero bastante decente. Así que pon a todos tus líderes de RR.HH. y directivos a experimentar con esto. En el trabajo, en casa, jugando. Hay cosas divertidas con tus hijos: crear historias, vídeos, y eso puede servir para tu empresa.

Hay mucho para explorar. Pero, por mucho, mi consejo número uno: no te alejes. Entra y prueba, para ver de qué va y qué puedes hacer, y entender también sus limitaciones.

David Rice: Buen momento para sumergirse, como dices, pero también para verse a uno mismo como la imaginación moral de la organización – alguien debe hacerlo. Creo que es justo que los profesionales de personas lo asuman.

La promesa aquí es qué tipo de personas queremos ser.

No solo hacer más cosas, sino ser mejores. ¿Qué significa en la práctica? Ese es el reto para los líderes, será difícil, pero pocos retos en tecnología son tan gratificantes si acertamos.

Christopher DiCarlo: Así es. A veces hace falta una ola para crear una tendencia y que el resto se suba. Como el caso Epstein. No quería mencionarlo, pero es inevitable, lo ves en todos lados, hasta en el Congreso.

¿Por qué? Porque suficientes personas dijeron: esto es lo correcto. Estas mujeres y niñas han sufrido. Solo se preocupan de taparlo. Ni con Trump pidiendo retirar nombres funcionó; la moralidad fue más grande.

Superó dinero, poder, reputación. Eso es lo que podemos esperar de la IA: que todos repitan el mantra de seguridad: “Queremos lo mejor que nos pueda aportar la IA, mitigando lo peor que pueda ocurrir.” Ese es el mantra actual del desarrollo de IA.

Y si lo logramos, tendremos un mundo lo más utópico posible. Y si nos equivocamos,

no le irá bien a nuestra especie.

David Rice: El péndulo va en ambos sentidos. Bien, Christopher, gracias por venir hoy. Lo aprecio mucho, gracias por tu tiempo.

Christopher DiCarlo: Con mucho gusto. Gracias por invitarme.

David Rice: Absolutamente.

Bueno, oyentes, si aún no lo han hecho, como siempre, los invito a visitar la web y suscribirse al boletín. Recibirán todas las actualizaciones, pódcasts y eventos de Personas Administrando Personas. Es peoplemanagingpeople.com/subscribe.

Y hasta la próxima, no teman a la conversación filosófica.