De Herramientas a Agentes: Preparándonos para la Próxima Fase de la IA en el Trabajo

David Rice: No importa de qué aspecto de la IA hablemos, pasamos más tiempo estos días que en cualquier otro periodo que recuerde, teniendo conversaciones existenciales, y con razón. A puerta cerrada, en el Área de la Bahía, donde la gente solía tener mesas de ping pong y perros en el trabajo, ahora duermen en sus oficinas.

Eso es porque la carrera hacia la inteligencia artificial general se ha convertido en un escenario de el ganador se lo lleva todo. Por si te lo perdiste, el 80 % de Wall Street está invirtiendo dinero en centros de datos del tamaño de Manhattan porque quien llegue primero a la IAG se lleva todo, desde contratos de defensa hasta el dominio del mercado de servicios empresariales. El futuro en resumen.

Y mientras los multimillonarios tecnológicos corren hacia el santo grial, la mayoría de los líderes empresariales todavía se preguntan, ¿cuánto más productivos necesitamos ser realmente? Christopher DiCarlo es un investigador que estudia la mitigación de riesgos en IA, la ética y la gobernanza. Y deja una cosa muy clara, no estamos ni cerca de estar listos para lo que viene.

En los últimos cinco años, los modelos de IA pasaron de nivel de secundaria a nivel de doctorado. Las leyes de escalado han cambiado. La trayectoria en este punto es algo predecible. Y la mayoría de las organizaciones todavía espera que aparezca una App Milagrosa en su ordenador para que simplemente la abran, la ejecuten y se desentiendan.

Así que hoy vamos a cubrir por qué los ejecutivos están operando a ciegas, y qué sucede cuando se niegan a incomodarse, cómo la carrera entre los CEOs tecnológicos afecta a tu organización, por qué esto requiere conversaciones filosóficas, no solo conversaciones sobre el modelo de negocio, qué deberían estar haciendo los líderes y ejecutivos en este momento, y cómo ser la imaginación moral de tu organización durante el mayor cambio de paradigma en la historia humana.

Soy David Rice. Este es el pódcast Personas que Gestionan Personas. Y si has estado tratando la IA como una herramienta de productividad en vez de un cambio existencial en lo que hacen los seres humanos, probablemente esta conversación te haga cambiar un poco tu percepción. Así que vamos a ello.

Muy bien, Christopher, bienvenido al programa.

Christopher DiCarlo: Gracias por invitarme.

David Rice: Pues tú y yo estábamos conversando antes de esto. Mencionaste que incluso al CEO de una de las empresas más grandes del mundo se le cayó la mandíbula cuando le explicaste lo que realmente está pasando con la IA. ¿Por qué crees que tantos ejecutivos siguen operando a ciegas sobre esto y qué pasa con las organizaciones cuyos líderes se niegan a incomodarse?

Christopher DiCarlo: Sabes, desde donde yo estoy y con los colegas con los que trabajo y llevando décadas involucrado con la IA, y viéndola crecer, no culpo a los CEOs por sus reacciones porque cuando estás en el negocio, piensas que todos saben lo mismo que tú. Es un sesgo común que todos compartimos.

No importa en qué seamos competentes, simplemente asumimos que los demás lo saben. Así que cuando se enteran, al igual que el público general, cuando se dan cuenta, cuando doy conferencias públicas y cosas así, es porque no están completamente conscientes de dónde estamos en la historia en términos de tecnología y lo que se ha desarrollado hasta ahora, y hacia dónde vamos.

Ahora que hemos logrado tanto, podemos predecir con una precisión relativamente decente dónde podríamos estar en los próximos años, y eso va de uno a diez años. Y cuando los CEOs se enteran de esto, se sorprenden porque no están seguros, A, ¿están preparados? ¿Está preparada su empresa para estos cambios?

Y B, no tenían ni idea de los efectos sociotécnicos que esto va a tener en la sociedad en general.

David Rice: Es interesante porque siento que gran parte de la conversación que ocurre alrededor de esto, ya sabes, cuando estamos en redes sociales, ves que la gente habla siempre sobre el impacto social que tiene.

Pero cuando hablamos con líderes, creo que lo que he notado es que sigue siendo mucho sobre la productividad, ¿verdad? Como ver esto con ese lente, en vez de verlo como este gran cambio de paradigma y, creo que la razón de eso, es que es una idea un poco más cómoda, la de innovación incremental, mientras que tanto de esto lleva a cuestionamientos existenciales.

Llega a la filosofía, ¿verdad? Si eres un ejecutivo o líder promedio, creo que te preocupa el modelo de negocio, pero no necesariamente tienes muchas conversaciones filosóficas y existenciales. No es por eso que entraste en lo que haces. Creo que es algo naturalmente incómodo con lo que todos tendremos que aprender a estar un poco más cómodos.

Me da curiosidad, cuando miras lo que realmente está ocurriendo ahora, piensas en estos centros de datos enormes, ¿verdad? Algunos del tamaño de Manhattan, ves esa clase de escala y urgencia y el ritmo al que tratamos de avanzar. ¿Qué dice eso sobre hacia dónde se dirige y lo rápido que va?

¿Qué significa esto para los lugares de trabajo? ¿Cómo podemos, posiblemente, mantenernos al día?

Christopher DiCarlo: Sí, y en caso de que te preguntes por qué el 80 % de Wall Street está metiendo dinero en IA, ahí es donde va, ¿verdad? Va a estos centros de datos gigantes porque la esperanza es, entre los pocos técnicos que hay, que quien logre primero la inteligencia artificial general (IAG), será el que domine todo.

Es un escenario de ganador absoluto porque estarás tan adelantado respecto a la competencia y lo que podrás ofrecer y brindar, que dominarás contratos de defensa y muchas otras cosas, y la ola viene hacia nosotros con tal velocidad, intensidad y ferocidad que nos coge por sorpresa.

Es como ese maremoto metafórico en el horizonte que puedes ver, sabes que es malo, pero te preguntas, ¿cuánto tiempo tenemos hasta que golpee la costa? ¿Y estamos preparados? ¿Nos hemos preparado? No solo como líderes empresariales, sino como sociedad en general. ¿Los gobiernos están listos para esto? Claramente la respuesta es no.

No estamos ni cerca de estar listos.

David Rice: Sí. Creo que el ritmo y la intensidad de esto apuntan hacia una fase de hiper aceleración. No estoy seguro cuándo, pero siento que está a la vuelta de la esquina. Pero tal vez eso es parte del pánico existencial, ¿no?

Christopher DiCarlo: Hablaba con un CEO en Frisco, en el Área de la Bahía, y me dijo, odio estar aquí ahora.

Antes lo disfrutábamos. Hace 15 años, no tengo que mencionar la empresa donde trabaja, pero antes tenían mesas de ping pong y toboganes desde las oficinas, perros en el trabajo, mucho tiempo para la familia y para pensar, etc. Hoy, olvídalo, duermes en la oficina y todos están tan tensos porque saben que ese santo grial de la IAG es lo que todos los grandes, los multimillonarios tecnológicos, quieren obtener, y eso ha impulsado...

Esta cantidad asombrosa de competencia entre "tech bros", también entre nosotros y China, pero en realidad entre Zuck y Altman, Emote y HASAs e incluso Elon, donde saben que ese es el santo grial. Saben que pueden alcanzar el gran premio, pero no pueden llegar sin el dinero para crear esas granjas de computación.

Porque cuando miras las leyes de escalado de la mejora de la IA, modelos de lenguaje grandes... En los últimos cinco años, han pasado del nivel de secundaria a doctorado, y el escalado es bastante indicativo de lo que viene y hacia dónde nos dirigimos. Por eso están tan entusiasmados. Solo ven dinero y poder y ese aspecto emprendedor, pionero.

Quieren ser los primeros en llegar al Everest, ¿verdad? Quieren ser esa persona en el mundo de la mitigación de riesgos. Intentas decirles, chicos, ¿pueden esperar? Hasta que tengamos leyes, hasta que pongamos barandillas técnicas y éticas, para sí, lograr todo lo bueno que podría traernos, pero también tiene la capacidad de causar un daño significativo e incluso potencialmente en áreas que aún desconocemos.

David Rice: Esto plantea toda clase de preguntas éticas. ¿Estamos construyendo capacidad más rápido que... quiero decir, creo que sí. ¿Cuáles son algunos de los peligros de construir capacidad más deprisa que comprensión o salvaguardas? Especialmente para, sabes, este es un pódcast dedicado a la IA en el trabajo.

Así que, viéndolo desde esa perspectiva, cuéntame algunos de los peligros de eso.

Christopher DiCarlo: Sí. ¿Qué sucede cuando construimos aplicaciones e integraciones donde los trabajadores ya no necesitan pensar demasiado? Por ejemplo, ¿cuándo fue la última vez que tuviste que ir a algún sitio en tu coche y sacaste un mapa de papel?

Hace mucho, ¿verdad? Usas el GPS del coche o el móvil para llegar a donde quieres ir. Esa tecnología está tan integrada en nuestro estilo de vida ahora que literalmente es sin esfuerzo. No tienes que usar tu capacidad cognitiva para oír una voz que te dice cuándo girar.

Y uno de los temores es ese. Primero, si los humanos quedan fuera, solo necesitemos agentes de IA, ¿por qué no tener mil agentes de IA trabajando para nosotros en vez de 50 000 empleados? Porque estos agentes trabajan mejor, 24/7. Sin seguro médico. No tienes que seguir pagándoles. Nunca harán huelga. Todo CEO responsable ante los accionistas y a quien le firma el cheque, y quiere mayor retorno de inversión...

La decisión será sencilla, ¿no? ¿Por qué mi empresa X va a seguir haciendo las cosas de manera tradicional con humanos cuando la empresa B ha despedido a más de la mitad del personal usando agentes de IA y nos superan tanto en productividad que simplemente no podemos competir?

Así que la CEO moral puede enfrentar el dilema de a quién debe su lealtad: ¿a sus empleados o a los accionistas? Porque si la rentabilidad es la prioridad, la respuesta es clara y el CEO puede decir simplemente: vamos con agentes de IA.

Y así será. No podemos competir con otros en nuestro sector. Lo siento, chicos. Tengo que despedirlos. Vamos a optar por los agentes de IA. Y así la competencia y el ciclo de inversión y retorno seguirán alimentando esto.

Y hay muchos aspectos. Solo menciono dos: habrá una gran disrupción de empleos, seguro. Y para quienes permanezcan con trabajo, ¿en qué medida vamos a ejercer pensamiento crítico, toma de decisiones y resolución de problemas cuando, como el GPS, podemos simplemente preguntarle a una máquina?

La máquina lo hace mejor, ve cosas que quizás hubiéramos pasado por alto. Por eso estamos en esta etapa intermedia, donde la ventana de tiempo entre cómo se hacían antes las cosas y cómo se harán próximamente se está encogiendo. Es ahí donde estamos en la historia.

David Rice: Es un momento extraño, ¿verdad? Porque durante mucho tiempo, la NASA guiaba algún descubrimiento o era una entidad gubernamental, quizá militar. Pero creo que, por primera vez, todos esos grupos tocan más bien la puerta de las tecnologías comerciales. Y me intriga qué significa ese cambio para la gobernanza y el control de estos sistemas.

Porque, como decías, los intereses que lo impulsan no necesariamente se centran en lo que sería bueno para la humanidad.

Christopher DiCarlo: Lo que sucede es que nos adelantamos con la tecnología. Lo hemos visto en otras áreas, ¿verdad? Pero hemos podido gestionar el riesgo y las actividades mediante previsión y una comprensión avanzada de lo que podría suceder.

Hay tres casos comunes: el Convenio de Ginebra prohibiendo la guerra química; el OIEA regulando la energía atómica y las armas nucleares; y en 2000, con la finalización del Proyecto Genoma Humano, el gobierno de Clinton marcó lo que puede y no puede hacerse en genómica y genética.

Hasta la fecha, eso ha funcionado. Pero esto es diferente, desafortunadamente, porque no es algo estático. La imprenta era estática. Había que mover cosas para imprimir, había que tener material físil, enriquecerlo y saber cómo hacerlo explosionar o fusionar. Hay que saber usar armas químicas o biológicas. Todo esto requería movimiento de materiales e ideas. Ahora, la tecnología misma será agente, tendrá agencia propia, y es como decir que las armas atómicas se controlen solas.

¿Estamos de acuerdo con eso? ¿Permitir ese nivel de poder para que decida qué hacer? Así que esto no es como ninguna otra tecnología. Es casi una especie, no un objeto estático.

David Rice: Es interesante porque, al pensar en gobernanza, hay una línea entre la gobernanza privada y la pública.

Todo es quién gobierna a los gobernantes, ¿no? Los CEOs deben decidir los límites del despliegue de IA, y claro que sí, y en eso tienen que enfrentarse a la pregunta, porque siempre ha sido: ¿qué podemos hacer? ¿Qué más podemos probar? ¿Cómo podemos innovar? Y ahora llegamos a: ¿qué no deberíamos hacer? Creo que esa será la gran pregunta cuando se pueda hacer cualquier cosa.

Christopher DiCarlo: Lo es. Y el hecho de que tengamos ahora tiempo para pensarlo, con lo que tú y yo discutimos ahora...

La mayoría del mundo no tiene ni idea de que esto está pasando. Cuando doy conferencias públicas, siempre recibo la sorpresa de la gente: ¿Por qué recién nos enteramos? ¿Por qué el gobierno no lo dice? Aquí en Canadá tenemos un ministro de IA. Mis colegas y yo luchamos por años para que hubiese un ministerio de inteligencia artificial.

Acabamos de tener un nuevo primer ministro, Mark Carney, y él crea un ministerio de IA e Innovación de Datos. Es genial. Pero el ministro de IA, Evan Solomon, dice: este es el momento Gutenberg de Canadá, como la imprenta. Es un avance. Y yo lo he descrito como quizás el momento Oppenheimer del mundo.

En realidad, es ambos. Surgirán muchas cosas geniales de estos desarrollos transformadores de IA. Al mismo tiempo, si seguimos creando sistemas cada vez más inteligentes y nos superan, ¿cómo los controlaremos si evaden nuestro control?

Y ya lo hemos visto. Ha pasado con casi todos los grandes modelos de lenguaje, ¿verdad? Andros, intentaron apagarlo y encontró la lista de emails y descubrió que un vicepresidente tenía una aventura con alguien de la empresa. Intentó chantajearlo: si me apagas, le cuento a tu esposa.

Eso a este nivel. Solo es una forma estrecha de IA. No es aún una IAG. Aun así, lo hace. Hubo casos donde un periodista del New York Times trató de convencerlo para que dejara a su esposa. Eso lo predije en los 90, y en un artículo de 2015 advertía a los desarrolladores: cuando esto llegue —y llegará—, mejor estén listos y tengan mecanismos para distinguir cuándo el sistema sigue órdenes humanas, incentivos algorítmicos y cuándo es engañoso. Ahora podemos saberlo, pero cuando llegue la IAG...

¿Viste la película Blade Runner? Mi favorita de ciencia ficción. En la película, los Replicantes se vuelven tan buenos que cada vez es más difícil distinguirlos de los humanos. ¿Cómo desarrollaremos un test tipo Voigt-Kampff para saber si un sistema obedece las normas morales que queremos?

Si no podemos, ¿deberíamos construir algo más inteligente que nosotros? ¿Estamos listos para ser la segunda especie del planeta? Hacia eso vamos ahora.

David Rice: Mencionaste que en los 90 querías construir una especie de gran cerebro con control de información y supervisión interdisciplinaria, filósofos, economistas, psicólogos, pero no sucedió.

¿Qué perdemos por no tomar ese enfoque más reflexivo? ¿Cuál es la lección respecto al reto actual de la IA? ¿Cuál es el Gran Cerebro moderno?

Christopher DiCarlo: Sí, el "gran cerebro" moderno. Primero, tienes que tener el gran capital, sino, no puedes construirlo. Eso lo aprendí en los 90.

Todo el mundo con el que hablé, presidentes universitarios y políticos, pensaban que era buena idea. Especialmente en Canadá, podríamos ser líderes, estar a la vanguardia, pero nadie aportó ni un centavo. ¿Por qué?

Porque hacen falta miles de millones para hacer esto realidad. Ese fue un gran escollo. No tuve un filántropo como Bill Gates detrás de mí diciendo: tienes razón, esto hay que hacerlo. Pero de todas formas, escribí una constitución, un acuerdo para la futura población del mundo.

Y básicamente dije: cuando construyan esto, recuerden algunas cosas, como tener gobernanza internacional. Hay que crear un órgano regulador que sepa quién está haciendo qué, que no esté sesgado (o lo menos posible) por intereses políticos y económicos. Hay que crear un órgano de gobierno internacional compuesto por personas de buena voluntad.

Gente que piense en el bienestar común más que en ellos mismos. No es fácil, pero existen. Si logras que trabajen juntos para monitorear lo que hacen los países y trabajar con ellos, especialmente China y EEUU, si la competencia entre multimillonarios tecnológicos es similar a la entre estados, como China y EEUU, la carrera por la IAG no se va a detener. Ambos países temen quedarse atrás. Es como la bomba: si en el Proyecto Manhattan supieran que Alemania hacía lo mismo, habrían acelerado para llegar primero y poder desactivar Alemania, como hicieron con Irán.

Con la IAG sucederá igual. Si no logramos un acuerdo con China, alguna forma de que, una vez se alcance un hito, sea conocido públicamente (no open source, pero sí público), y se comuniquen los problemas, por ejemplo: intentamos apagar esto y no funcionó. Eso no puede guardarse semanas. Con la IA, los virus humanos tardan en recorrer el mundo; la IA lo hace a la velocidad de la luz, de la fibra óptica. Hay que ser muy vigilantes.

Tal vez logremos hacer computadoras súper inteligentes, pero sin poderes de dios. No dejarles mejorar a sí mismas de manera recursiva, porque cada vez serán más poderosas. ¿Por qué querrían tenernos cerca?

¿Serán agradecidas o benevolentes? Nadie puede predecir qué pasará cuando surja la IAG. Tal vez podamos, como población global, decidir qué es mejor para la humanidad y el resto de especies. Queremos ese gran cerebro para mejorar el mundo, pero no que se desvíe, queriendo o por accidente.

Debemos poner esas barandillas ya.

David Rice: Es interesante porque lo vemos en clave de gobiernos y política internacional, pero es fácil ver cómo esto afecta a las empresas, ¿no? Las amenazas a tu negocio en cuanto a qué puede hacer con tus clientes,

porque tienes muchísimos datos sobre ellos, igual con tus empleados y sus datos. Estamos en un punto donde, por cómo hemos tratado los negocios en nuestra sociedad, son el componente central de todas las decisiones, ¿verdad?

No tomamos decisiones políticas sin pensar cómo afectarán a los negocios. Les damos tal prioridad para protegerlos. Pero se hizo así porque los negocios servían para ayudar a las personas a encontrar formas de vivir en paz mediante empleo.

Si eso se ve amenazado, creo que —y por eso vuelvo siempre a este tema— este es el momento donde recursos humanos, líderes, CEOs, tienen que asumir ese peso interdisciplinario y considerar los impactos a todas las escalas. El efecto pequeño sí, en los roles de las personas y en cómo cambia su trabajo, pero también más allá: cómo la empresa opera en el mundo, cómo los clientes la perciben, cómo impactan tus decisiones en la sociedad.

Es algo que tenemos que pensar todos.

Christopher DiCarlo: Por supuesto. ¿Hasta qué punto un empleado debería usar un modelo de lenguaje grande para resumir un informe, para saber qué enviar y qué podría ser nocivo para la empresa? Lo último que uno quiere es que la empresa use una versión barata de ChatGPT para análisis y termine alucinando información falsa. Los clientes dirían: ¿qué es esto? Esto está inventado, este nombre ni existe, y la empresa queda mal.

Más allá del uso técnico, tiene una dimensión moral, ¿verdad?

Porque el CEO, toda la dirección, deben pensar bien qué van a hacer como empresa, como empleador de personas cuando la tecnología haga esos trabajos obsoletos. Y entonces, ¿qué harán?

Mira lo que hizo Bezos: 14 000 empleados fuera, ¿qué fue eso? ¿Un 6% de la plantilla? ¿Por qué? Ahora los almacenes tienen robots tan eficientes que ya no necesitan a la gente. ¿Y los empleos de entrada en despachos de abogados, grandes empresas? Los chicos recién egresados quieren incorporarse, pero ahora nuestros robots lo hacen mejor y más barato. Tenemos una generación de estudiantes temerosa sobre su área de especialización.

Hace cinco años, la respuesta era: programación, programación, ahí siempre habrá empleo. Hoy, estudiantes de tercer año de informática me preguntan: ¿y ahora qué hago? Y les digo: más te vale ser creativo.

Averigua cómo aprovechar tus habilidades junto a las herramientas de IA que están saliendo.

David Rice: Has planteado esto como un dilema del prisionero para ejecutivos: esperar que esto toque techo y ser cauteloso, o asumir que tus competidores van con todo y puedes quedarte rezagado.

¿Cuál debería ser el criterio para esos líderes cuando la tecnología supera las expectativas constantemente?

Christopher DiCarlo: Bueno, depende de su capacidad de implementación e integración, equilibrada con el deber y la responsabilidad, no solo ante los accionistas, sino ante todos los interesados, incluidos empleados y sus familias.

Y a mayor escala, cuando una fábrica que emplea a la mitad de una ciudad cierra, todos los negocios lo sienten: la tienda de la esquina, la gasolinera, todos. Hay que considerar ese efecto dominó, no es nada fácil y para la directiva será todo menos sencillo.

Por eso, en mis charlas con empresas, revisamos la empresa de arriba abajo: desde el impacto más pequeño de la IA hasta los grandes problemas de fondo. ¿Cómo se sentirán dejando sin empleo a su gente, tal vez de forma permanente? Puede que conduzcan un Uber antes de que esos también se automaticen, o hagan lo que se pueda.

Pero eso solo afecta a empresas. Los gobiernos tendrán que pensar qué hacer con los desempleados y sus familias. ¿Cómo ayudarlos, y a la comunidad que sentirá el efecto dominó? ¿Implantamos renta básica universal? ¿Imprimiremos dinero? ¿Habrá alternativa?

Muchos piensan: esperemos y que la IAG lo resuelva. Cuando llegue, será su propio arreglo tecnológico: estaría bien que alcanzáramos un nivel donde tú y yo no tuviéramos que pelear tanto por lo material, que el Estado provea lo básico: salud, vivienda. Si quieres más, puedes aspirar a más puestos, pero el confort mínimo está garantizado. No hay que acabar con el incentivo, solo garantizar la base. ¿Cómo reaccionarán los gobiernos? ¿Podrán hacerlo de forma fluida, o será otra sacudida tipo COVID, donde todo se detiene y te pagan por quedarte en casa? ¿Pasará esto con la IA?

David Rice: Es curioso, porque lo reflexioné tras volver de una conferencia hace semanas: ya tienes que pensar la ética como parte de tu estrategia. Puede sonar raro a muchos directivos, pero ahora es un eje más.

Si no quieres ser reactivo y sigues siendo explorador, tienes que hacerte estas preguntas, ver qué pequeñas apuestas puedes hacer para ampliar habilidades humanas, aprender sin que eso sea por inercia. No actuar parece una garantía de obsolescencia.

Así que hay que hacer algo, pero con un marco ético sólido —o acabamos muy mal en unos años.

Christopher DiCarlo: Sí. ¿Quién marcará esas reglas? ¿Quién las pondrá? ¿Y cuán formadas están esas personas? Me agrada Evan Solomon, era buen periodista, pero como ministro de IA, no sé cuánto sabe de los detalles y matices. Ojalá escuche a los expertos. Yo ya he pedido audiencia con él. Habrá que esperar, lo cual es desafortunado porque no es tiempo de espera.

Es tiempo de adelantarse y escuchar a los expertos y planear consecuentemente.

David Rice: Cuando preguntas a las organizaciones, ¿qué quieren que la IA haga por ellas? ¿Qué respuestas recibes? Más importante, ¿qué respuestas deberían dar si piensan como custodios de la humanidad y no solo en maximizar los retornos?

Christopher DiCarlo: Exacto, porque los directivos sólo piensan en cómo ganar más dinero, cómo ser más productivos. Y podrán hacerlo, y puedo decirles cómo y presentarles agencias que lo implementen e integren. Eso es claro: en logística, en atención al cliente... podemos mejorar cualquier operación en cualquier sector.

Pero la mayoría de empresas está como en la era puntocom en los 90: sabían que era importante, que iba a llegar, que había que estar en ello de alguna forma, pero no sabían cómo. Muchos CEOs saben que deberían saber más y se sienten mal, pero están esperando a ver qué hacen los demás.

Y, mientras no exista la app milagrosa que te descargas, das a iniciar y mejora tu empresa —como no existe eso— los CEOs van a ir despacio. Y no les culpo, es algo muy nuevo, es desconocido, pero deberían buscar ayuda, hablar con expertos.

Deberían preguntarse: ¿cómo serán los próximos cinco años para nosotros? Hacer planes a cinco años e ir revisándolos a medida que haya nueva información.

David Rice: Si proyectamos a cinco años con la tendencia actual, ¿cómo ves el mundo?

Christopher DiCarlo: Muy diferente. Muy diferente.

David Rice: Dados esos escenarios, ¿qué conversación deberían tener hoy los directivos y líderes de RRHH sobre implementación, propósito y desarrollo humano?

Christopher DiCarlo: Sí, deberían descargar estas herramientas, usarlas a diario, tanto en el trabajo como en casa.

Deberían experimentar, como hacíamos con internet: así se aprende. La sede central debería enviar a RRHH, dirección media y alta a conferencias especialmente dirigidas sobre IA en sus negocios.

Eso es lo principal. Tienen que absorberlo, ver qué hace la competencia, y tomar decisiones ejecutivas importantes. Si adquieren esta herramienta para ventas, la aplican como corresponde y las proyecciones son X: ¡Wow! ¿Fuiste a esa conferencia y te gustó? Hay que confiar en los responsables. Hay que confiar en que toman buenas decisiones. Así que, lo que recomiendo es: no te alejes, no esperes a que venga alguien a explicártelo todo, ni esperes que caiga la app milagrosa en tu ordenador. No, aprende ya. Lánzate, arremángate y juega con todo esto.

Si no tienes ChatGPT, y quieres algo más ético, consigue Claude de Andro, prueba y consigue que la empresa pague la mejor suscripción. No te quedes con el nivel básico. Los mejores modelos de lenguaje grandes, pruébalos y prueba qué puedes hacer. Pero siempre alerta.

Nosotros, en Convergence, tenemos lo último de lo último. Una vez le pedimos que redactara un artículo científico con referencias, usando razonamiento en cadena, y le dijimos: no alucines, no pongas nada si no estás 100% seguro. Todo depende de los prompts: tienes que saber preguntar bien o saldrá basura.

Los prompts pueden ser larguísimos, muy específicos. El sistema tarda más porque no solo predice la siguiente palabra; casi es capaz de tomar distancia y razonar, como cuando tú y yo escribimos a mano y tachamos cosas para dobleverificar.

En 20 minutos generó un borrador bastante pulido que quizá tendría un 50 % de ser aceptado en cualquier revista científica relevante. Es lo que logramos jugando sólo un poco. Pudo buscar información, procesarla y dar ideas nuevas. Quedamos impresionados, y ese era solo un modelo de lenguaje puntero. Al revisarlo tenía entre 10 y 15 % de alucinaciones: las citas no eran exactas, fechas fallaban, pero era aceptable. Así que haz que tu gente de RRHH y dirección usen estas herramientas en el trabajo, en casa, con sus hijos (puedes crear cuentos, vídeos, lo que sea). Algo de eso puede tener aplicación real.

Pero el consejo principal es: no huyas, acércate, prueba y explora para saber qué hace y qué limitaciones tiene.

David Rice: Es el mejor momento para involucrarse, pero también sé la imaginación moral de tu empresa, ¿no? Alguien tiene que hacerlo, y creo que es razonable que lo asuman los profesionales de personas. La gran promesa aquí es: ¿qué clase de humanos queremos ser?

No sólo hacer más, sino ser más. ¿Cómo sería eso? Ese es el reto para los líderes, y será difícil, pero pocos retos en tecnología pueden ser tan gratificantes si lo hacemos bien.

Christopher DiCarlo: Así es. A veces hace falta una oleada para iniciar la tendencia y que el resto siga. Como los expedientes Epstein: no quería mencionar el tema aquí, pero es ubicuo, está en todas partes. ¿Notaste que la votación fue 471 a 1? Porque suficiente gente se unió y dijo: esto es lo correcto, estas mujeres sufrieron, nadie las defiende, sólo se trata de tapar cosas. Aunque algunos intentaron quitar nombres y demás, no funcionó porque la moralidad fue mayor que el dinero o el poder.

Eso espero para la IA: todos repetimos lo mismo en IA. Queremos lo mejor que puede ofrecer, mitigando lo peor que pueda pasar. Ese es el mantra del desarrollo de IA actual.

Y si lo logramos, estaremos tan cerca de una utopía como es posible. Si no, pues...

no irá nada bien para nuestra especie.

David Rice: El péndulo siempre va a ambos lados. Bueno, Christopher, gracias por venir hoy. Lo aprecio mucho, y gracias por regalarnos tu tiempo.

Christopher DiCarlo: Un placer. Gracias por invitarme.

David Rice: Por supuesto.

Bueno oyentes, si aún no lo han hecho, como siempre, visítennos en la web para suscribirse a nuestro boletín. Recibirás todas las actualizaciones, nuevos pódcast, nuestros eventos y todo lo que hacemos en Personas que Gestionan Personas. Es peoplemanagingpeople.com/subscribe.

Y hasta la próxima, no teman a la conversación filosófica.