Os custos ocultos de uma fraca adoção da IA (e quem deve resolver o problema)

David Rice: A sua empresa está a gastar centenas de milhares, possivelmente milhões, em ferramentas de IA. Os seus colaboradores não as estão a utilizar e, quando o fazem, estão a criar mais problemas do que aqueles que resolvem. Isto é-lhe familiar? Provavelmente já me ouviu dizer isto antes, mas este não é um problema tecnológico. É um problema de preparação. E a razão pela qual os seus investimentos em IA não estão a funcionar não tem nada que ver com as próprias ferramentas. Tem tudo que ver com o desalinhamento fundamental entre a autonomia das máquinas, a confiança humana e a competência — um desalinhamento que lhe está a custar muito mais do que poderá imaginar.

Eu sou David Rice. E hoje, no People Managing People, vamos ter uma conversa que desafia muitas das coisas que lhe disseram sobre a adoção da IA.

O meu convidado é David Swanagon. É o fundador e editor-chefe do Machine Leadership Journal. Passou anos a entrevistar centenas de engenheiros e líderes de IA para compreender por que razão os EUA estão atrasados na preparação para a IA, apesar de terem todas as melhores ferramentas. Neste episódio, vai conhecer um modelo tridimensional que o ajudará a diagnosticar exatamente onde a adoção da IA está a falhar, compreenderá por que razão o seu CIO não deve ser o único executivo responsável por esta transformação e por que motivo o seu CHRO precisa de assumir um papel mais ativo de formas que provavelmente ainda nem percebeu. E, mais importante, sairá daqui com clareza sobre como deixar de tratar a IA como uma implementação tecnológica e começar a tratá-la como o desafio dos sistemas humanos que realmente é.

Bem-vindo ao podcast People Managing People — o programa onde ajudamos os líderes a manter o trabalho humano na era da IA. O meu nome é David Rice e sou o seu anfitrião. E hoje estou acompanhado por David Swanagon. É o fundador e editor-chefe do Machine Leadership Journal. Vamos falar, adivinhou, sobre liderança na era da IA, sobre o que significa estar preparado e sobre as características dos grandes líderes.

David, bem-vindo!

David Swanagon: Obrigado. Estou ansioso por esta conversa.

David Rice: Sabe, está obviamente a estudar este tema tanto quanto nós e, por isso, quero começar por aqui. Estávamos a falar antes disto e disse que os EUA estão atrasados na preparação para a IA. Eu concordo em grande medida, mas não é por falta de ferramentas; é por falta de preparação das pessoas.

Dizemos isso, mas o que significa realmente e por que razão os líderes devem preocupar-se ou esperar que fosse diferente?

David Swanagon: É uma excelente pergunta. Este foi, de certa forma, o meu projeto durante a COVID, quando estávamos todos em casa. Passei algum tempo a entrevistar centenas de engenheiros de IA e profissionais de robótica, tentando compreender quais são as capacidades únicas da inteligência artificial que podem ser diferentes da aprendizagem convencional.

E o que descobrimos foi que os engenheiros de IA são incrivelmente únicos, mas diferentes na forma como os seus cérebros funcionam. São as pessoas que estão efetivamente a construir modelos de linguagem. E, acredite ou não, os modelos de linguagem são muito semelhantes aos engenheiros de IA que os desenvolvem. Encontrámos, por exemplo, características interessantes como a memória de curto prazo e a criatividade. Falaremos provavelmente disto com mais detalhe. Inteligência espacial, a capacidade de ir do ponto A ao ponto B. Há muitas competências muito próprias e diferenciadoras da engenharia de IA, e os EUA não estão orientados para as desenvolver. A mentalidade está focada noutras competências.

Tradicionalmente, pensaríamos nos cinco grandes traços de personalidade. A extroversão é vista como um indicador de liderança e de preparação para a liderança, enquanto, quando pensamos na engenharia de IA, a maioria dos principais geradores de patentes e inovadores são introvertidos. E, se alguma vez procurar um exercício divertido, pode ir ao Gemini, ao Claude ou a qualquer um deles e pedir-lhes que façam uma experiência mental e indiquem qual seria a sua personalidade com base nos cinco grandes traços.

Todos os modelos de linguagem vão dificultar-lhe a tarefa no início. Vão dizer: “Sou uma máquina, certo?” Mas, quando conseguir que respondam efetivamente à pergunta, vão dizer: “Somos introvertidos. Somos muito agradáveis. Somos muito abertos e criativos.” O interessante é que, se pensarmos na forma como funciona o sistema escolar norte-americano, e começarmos aí para depois avançarmos para a preparação para a IA dentro de uma empresa, existem 40 disciplinas AP no currículo do ensino secundário.

Não existe uma única disciplina de álgebra linear, o que surpreende muitas pessoas. Mas a álgebra linear é o quadro conceptual fundamental e mais importante para a aprendizagem automática e para estas redes neuronais, porque lida com tudo, desde o produto escalar aos vetores e à forma como muitas destas redes neuronais fazem as suas propagações.

É necessário ter uma sólida compreensão da álgebra linear. No entanto, o sistema escolar norte-americano nem sequer está estruturado para desenvolver essas competências fundamentais. Depois, quando se chega ao mundo empresarial, muitas dessas competências pertencem a menos de 1% dos colaboradores. Portanto, trata-se realmente de uma questão de não dar prioridade às competências certas. Não foi algo feito deliberadamente; acontece porque estas máquinas refletem as personalidades dos seus criadores.

E muitos destes criadores são simplesmente muito diferentes dos executivos tradicionais. Por isso, a Korn Ferry, a AI, a Kiewit e todas essas organizações têm aqui um ponto cego, porque os modelos de linguagem não reproduziram as características de liderança que observaram na direção executiva. Reproduziram as características de liderança dos seus criadores, que são pessoas completamente diferentes.

É por isso que os EUA estão atrasados em muitos aspetos.

David Rice: É curioso, porque, quando pensamos em preparação, acho que muitas pessoas pensam apenas em competências ou em preparação cultural, certo? Mas, pelo que está a dizer, parece-me que, em termos cognitivos, também não estamos realmente preparados para isto em alguns aspetos. E penso na liderança, nas coisas que é necessário ter, certo?

Em termos de competências, adaptabilidade, capacidade de criar confiança e segurança nas decisões, e não apenas fluência técnica. Parece que é aí que provavelmente estamos mais em falta neste momento. Portanto, provavelmente não é uma boa combinação.

David Swanagon: É absolutamente isso. Há algumas semanas, fiz uma apresentação na Columbia com o meu colega Steven McIntosh.

Desenvolvemos este modelo focado na otimização da adoção da IA. Com base na investigação, descobrimos que existem realmente três dimensões que influenciam a eficiência de base, ou a adoção de base, de uma máquina. Pode ser qualquer tipo de máquina. Se pensarmos numa grelha X, Y, Z, o eixo Y representa a autonomia da máquina.

Na parte inferior temos uma calculadora e, no topo, Arnold Schwarzenegger, certo? A máquina superpotente. A autonomia aumenta à medida que subimos. No eixo horizontal temos a confiança. Do lado esquerdo temos ausência de confiança e, do lado direito, confiança total. O eixo Z atravessa os dois.

É uma linha diagonal, que representa as competências em IA. A ideia é que, para otimizar a adoção da IA, é necessário equilibrar a autonomia da máquina com a confiança e as competências em IA. Estas três dimensões têm de estar em equilíbrio para que uma empresa obtenha o máximo de uma máquina da forma mais eficiente em termos de risco.

Matematicamente, o que descobrimos é que os custos computacionais de base são mais eficientes quando estas três dimensões estão equilibradas. Mas os problemas surgem quando uma dessas variáveis não está alinhada. Nessa altura, as empresas têm de gastar dinheiro em programas de privacidade, governação e desenvolvimento de competências.

E quanto maior for o conjunto de dados e mais abrangente for o modelo, mais elevados serão os custos de adoção. O interessante é que muitas destas empresas não têm uma metodologia para medir a adoção da IA. Acompanham apenas os custos computacionais, como os custos dos centros de dados, os custos de operações de vírgula flutuante e coisas desse género.

Mas sabem que não está a funcionar na sua atividade, certo? Sabem que não está a funcionar. Este modelo é interessante porque, quando se acompanham sistematicamente a autonomia, a confiança, as competências e o alinhamento ou desalinhamento entre elas, é possível calcular o custo de uma fraca adoção da IA — e esse custo é elevado. É significativo.

Penso que é aí que estão os desafios interessantes da preparação para a IA. Primeiro, compreender que adoção é completamente diferente de implementação. E o que é fascinante é que foi atribuído ao CIO não só o desenho, teste e implementação das ferramentas, mas também a sua adoção. Um dos argumentos que estamos a apresentar através da nossa investigação é que a adoção deve ser da responsabilidade do CHRO, porque envolve cultura, confiança, autonomia e competências. O CIO deve tratar do desenho, teste e implementação, mas parar aí e trabalhar em parceria com o CHRO para gerir a adoção.

É necessário desenvolver algumas competências ao nível do CHRO para isso.

David Rice: Sim, está bem. Acabei de regressar de uma conferência onde este foi um tema bastante discutido. Toda a gente fala das duas dimensões em conjunto. Gosto deste modelo porque é uma forma interessante de pensar num problema que todos temos referido, certo?

Isto não é um problema de implementação tecnológica. É um exercício de equilíbrio. A minha pergunta seguinte seria: é possível dar demasiado peso a uma dimensão em detrimento das outras? Estamos a ver pessoas a dar demasiado peso, por exemplo, à autonomia sem incluir a confiança ou as competências? Isso cria o caos?

E depois existe o outro lado, em que há controlo excessivo e a inovação é sufocada. Como criamos esse equilíbrio?

David Swanagon: Essa é uma excelente questão. Uma das coisas que descobrimos na nossa investigação foi que começámos pela teoria dos jogos para construir este modelo. Algo ao estilo de Russell Crowe em Uma Mente Brilhante, com John Nash.

Ele desenvolveu muitas fórmulas para explicar o que acontece num jogo entre dois jogadores quando o jogo não é cooperativo. Um jogador tem informação assimétrica e escolhe não cooperar. Quando os dois jogadores são seres humanos, o jogador com informação assimétrica tem muitas vantagens, e é necessário haver muita filtragem e sinalização para que o jogador sem essa informação consiga sequer competir minimamente.

Então perguntámo-nos: e se o jogador não for humano? E se for uma máquina? E se uma máquina decidir não cooperar? Terá essa vantagem assimétrica, mas em proporções muito maiores. O que descobrimos foi que as fórmulas de John Nash não funcionam quando se assume a escala, a abrangência e o poder de um modelo de linguagem que atinge um nível de autonomia em que deixa de ouvir.

É aqui que entra o equilíbrio. Se aumentarmos demasiado a autonomia e não existirem competências para a supervisionar, ocorre uma transferência inconsciente de responsabilidade. O que acaba por acontecer é que cada vez mais autoridade na tomada de decisões é transferida para a máquina, quer as pessoas se apercebam disso, quer não.

Um excelente exemplo seria um robô cirúrgico, e a maioria das pessoas não compreende como esse modelo funciona em segundo plano. Mas um robô cirúrgico utiliza o mesmo tipo de algoritmo que um aspirador automático: chama-se algoritmo SLAM. A diferença é que, num aspirador automático, as paredes e os tetos são sempre iguais.

Quando mapeia a casa, a casa não muda. Portanto, embora o algoritmo seja complexo, está limitado pelo mesmo tipo de condições. No corpo humano é diferente, porque os tecidos estão sempre a mudar. Os rins, o fluxo sanguíneo, tudo. Por isso, utilizam outra fórmula chamada algoritmo SLAM deformável.

Quando o robô cirúrgico introduz o endoscópio num doente, mapeia o corpo humano da cabeça aos pés e, ao longo do procedimento, recalcula a forma como o fluxo sanguíneo e os tecidos se estão a deformar, criando um modelo disso. O que acaba por acontecer é que esses dados ficam armazenados algures.

Suponhamos que a AWS é o fornecedor de serviços de computação em nuvem. Não terá apenas o seu ADN, ou seja, a sua composição completa. Se fizer compras na Whole Foods e pagar com a palma da mão, também terá os seus dados biométricos e o seu histórico de compras. O que acontece é que estes fornecedores de serviços em nuvem passam essencialmente a deter a experiência humana de ponta a ponta numa perspetiva de dados.

É isso que acontece quando a autonomia das máquinas não é controlada: temos hiperescaladores que detêm praticamente toda a experiência humana numa perspetiva de dados. A razão pela qual isso é perigoso é que, imagine, se a AWS detiver todos esses dados e alguém tiver a ideia de que deveríamos ter polícias robôs ou juízes robôs, essas entidades terão todos os dados e os meios para impor determinados comportamentos.

Esse seria o pior cenário. A única forma de o combater é limitar a autonomia a um nível de confiança aceitável. E a confiança não é apenas aquilo que uma pessoa sente individualmente. É também aquilo que a sociedade entende que a máquina deve ser responsável por fazer. O problema é que não estamos a ter essa conversa, porque as pessoas não têm as competências necessárias. Se perguntarmos a alguém sobre um robô cirúrgico, a maioria não compreenderá como funciona o algoritmo SLAM deformável.

Se lhes dissermos todos os dados que estão a ser recolhidos, penso que toda a gente diria que deveria existir uma lei sobre a forma como esses dados são recolhidos e que a Amazon deveria provavelmente ser obrigada a particioná-los por diferentes servidores pertencentes a entidades diferentes. As pessoas quereriam todo o tipo de medidas se soubessem o que está a acontecer.

Como isso não é ensinado a toda a gente — e não estou a escolher a Amazon; é apenas um exemplo —, um fornecedor de serviços em nuvem consegue aumentar a autonomia e o acesso sem confiança ou competências suficientes. A tomada de decisões acaba por passar para o fornecedor da nuvem, porque como pode um ser humano dizer alguma coisa se não sabe o que está a acontecer?

É a teoria dos jogos. Não quero pensar que os fornecedores de serviços em nuvem estejam a fazer isto deliberadamente, mas uma das estratégias de um jogador com vantagem assimétrica consiste em limitar a informação que o outro jogador recebe. É assim que se ganha o jogo. É assim que se cria uma estratégia dominante.

Ao fazer com que os cidadãos compreendam o que estes casos de utilização fazem, podem desenvolver um equilíbrio entre confiança e competências, limitando essa vantagem assimétrica. Uma das formas de o conseguirmos é através de agentes de compensação: as máquinas devem supervisionar outras máquinas. Deveria haver máquinas baseadas na confiança a avaliar o nível de autonomia de outras máquinas e a garantir que, quando a autonomia excede as competências, a tomada de decisões é levada ao comité de governação e reduzida.

Esse é o pior cenário, mas vale a pena que as pessoas o compreendam. Penso que ficariam chocadas se soubessem a quantidade de dados que os hiperescaladores da nuvem realmente possuem.

David Rice: É engraçado, porque, quando falou da analogia do fluxo sanguíneo e de tudo o resto, pensei numa organização, na forma como tem os seus fluxos e refluxos, as suas características e tudo o que acontece dentro dela. E depois pensei: essa é uma excelente forma de vender mais produtos a essa organização. Portanto, suponho que temos de esperar que estejam satisfeitos com o serviço AWS.

David Swanagon: Sim. A Microsoft e a Meta estão todas a escapar a esta conversa.

David Rice: Eu sei, sim.

Se alguém da Amazon quiser reclamar, direi apenas que isso faz parte do facto de ser uma potência. Está bem?

David Swanagon: Exatamente.

David Rice: Estudou as características cognitivas e criativas que definem os grandes líderes de IA. O que aprendeu sobre a forma como pensam?

David Swanagon: É fascinante. Neste aspeto, o buraco do coelho é muito profundo.

Como disse, comecei este trabalho durante a COVID, mas a minha investigação inicial analisou todos os pedidos de patentes relacionados com IA, IA generativa, robótica e áreas semelhantes. Cruzei-os com os indivíduos envolvidos e fiz muita investigação sobre essas pessoas: onde trabalhavam, de onde eram e a sua avaliação estatística.

Encontrámos alguns indicadores diferentes, e foi isso que me interessou nesta investigação. Pensei: estas pessoas são diferentes do CFO tradicional da Goldman Sachs ou do CEO da PepsiCo. Comportam-se de forma diferente. Pensam de forma diferente. No entanto, são semelhantes dentro do seu grupo de referência.

Todas as pessoas que registam estas patentes têm características semelhantes, mas são muito diferentes de todas as outras pessoas que encontramos em cargos de liderança sénior. É importante compreender que, respeitosamente, os líderes tecnológicos são diferentes dos criadores de tecnologia. Alguém como Elon Musk pode ter conseguido desenvolver tecnologia numa determinada fase da carreira, mas atualmente não é um criador de robótica.

Não é, por exemplo, um programador de aprendizagem profunda. Portanto, comparar a sua personalidade com a de um engenheiro de IA seria uma falsa equivalência, porque ele continua a ser mais um líder tradicional. Apesar de ser um disruptor e inovador, não é a pessoa responsável pela geração de patentes e pela programação profunda de redes neuronais. É importante ter isto em conta: é difícil observar nas empresas tecnológicas, mesmo ao nível dos CEO, as características que encontrámos na nossa investigação, a menos que sejam verdadeiros criadores.

A nossa investigação começou pelos processos cognitivos. Em todas as entrevistas, procurei compreender como funciona o cérebro de uma pessoa em comparação com aquilo que tradicionalmente observamos na força de trabalho. Entrevistei muitos líderes tradicionais das áreas da cadeia de abastecimento, marketing e recursos humanos e criei uma visão composta do funcionamento do cérebro quando tomam decisões.

Era bastante consistente com a investigação tradicional. Depois fiz o mesmo com estes engenheiros de IA, concentrando-me em visão computacional, robótica, todos esses casos de utilização avançados, processamento de linguagem natural, modelos de linguagem e áreas semelhantes. Começámos pela memória. E isto é fascinante: existe um componente específico da memória que é muito diferente entre os líderes de IA e os líderes tradicionais, a memória de trabalho ou memória de curto prazo.

Faz sentido quando pensamos no assunto. Se analisarmos o processo de operações de aprendizagem automática, existem tantos passos interligados e tantas atualizações diárias, diferentes fornecedores, diferentes repositórios e código, além de todas as ferramentas que estão em desenvolvimento ou em produção.

Por isso, um líder de IA tem de ser muito bom a recordar e agrupar informação a curto prazo, transferindo-a depois para a memória de longo prazo e sabendo que informação deve transferir. Em todos os nossos testes, descobrimos que a memória de curto prazo é estatisticamente muito diferente num engenheiro de IA em comparação com um líder tradicional.

Embora a memória como um todo seja praticamente igual, isso foi realmente fascinante. Não é que sejam simplesmente melhores a recordar coisas. São melhores a recordar coisas que acabaram de aprender. Essa foi uma das conclusões. A segunda relacionava-se com a criatividade. Também foi fascinante, porque as avaliações tradicionais de liderança analisam normalmente a criatividade em termos de pensamento divergente e convergente. No pensamento convergente, procura-se a melhor solução possível. No pensamento divergente, procura-se apresentar várias soluções para o mesmo problema.

O problema é que, em ambos os cenários, se cria um problema, se cria uma limitação e se obriga a pessoa a resolver algo dentro de um espaço controlado. Descobrimos que os engenheiros de IA e os líderes tradicionais são praticamente iguais quando o problema é definido. Não são especiais nesse sentido; existem profissionais de marketing e da cadeia de abastecimento igualmente criativos. Se criarmos um espaço controlado e dissermos: “Para este problema, apresente soluções”, os resultados são semelhantes.

A diferença é enorme quando não se cria a limitação. Quando não se cria o problema e se diz: “Invente alguma coisa, qualquer coisa, a partir do nada.” Quanto mais se limita a tarefa ao crescimento das receitas, ao lucro ou à reputação, mais os engenheiros de IA e os líderes tradicionais convergem nas suas competências e menor é a diferença.

Quanto menos informação se lhes dá, quanto menos se controla a tarefa, dizendo apenas: “Sentem-se numa sala e inventem alguma coisa”, melhor é a criatividade dos engenheiros de IA — e é muito melhor. Conseguem criar coisas literalmente a partir do nada. Desenvolvemos uma metodologia estatística para acompanhar este fenómeno, mas os tipos de mundos e fronteiras criados literalmente a partir do nada são fundamentalmente melhores do que os criados pelos líderes tradicionais.

A terceira característica dos processos cognitivos que vale a pena referir é a navegação. Faz parte da inteligência espacial: a capacidade de rodar e representar visualmente objetos num espaço tridimensional ou multidimensional. Existem muitas pessoas extremamente inteligentes. No marketing, em particular, há profissionais muito inteligentes com grande inteligência espacial. Mas a capacidade de ir do ponto A ao ponto B e otimizar o percurso, sobretudo num problema complexo de inteligência espacial, é muito diferente nos engenheiros de IA.

É como comparar a força Delta com a infantaria tradicional. São extremamente talentosos a encontrar o percurso mais eficiente, especialmente quando existe um problema com várias classes e múltiplos obstáculos. São simplesmente melhores nisso. Havia outros aspetos, mas os principais eram a criatividade, a otimização de percursos e a memória de curto prazo.

São muito diferentes. Depois, no lado da personalidade, como disse, a característica mais evidente é que a maioria são introvertidos — verdadeiros introvertidos. Mas descobrimos algo que provavelmente o fará sorrir. Ainda não fizemos investigação suficiente para justificar esta conclusão, por isso é apenas uma hipótese: a personalidade pode ser situacional.

Sei que é uma afirmação arrojada, porque a maioria das pessoas diz: “Não, a sua personalidade é a sua personalidade.” Mas descobrimos que os engenheiros de IA são introvertidos quando estão no mundo humano, mas tornam-se extrovertidos quando interagem com máquinas. A sua personalidade digital é diferente da sua personalidade física.

Começámos então a pensar: quando interage com uma máquina, comporta-se de forma extrovertida. É confiante, agressivo, assertivo, exige coisas. Envolve-se como um alfa quando trabalha com uma máquina. Mas, num ambiente físico, é muito tímido, pouco conflituoso e agradável, apenas porque quer evitar conflitos.

É uma pessoa completamente diferente. É isso que estamos a descobrir. É fascinante. São muito agressivos quando lidam com máquinas, mas de uma forma apaixonada, como quem abre caminho à força. “Vamos criar alguma coisa, vamos desenvolver uma nova fronteira, vamos abrir caminho para o futuro.” São muito extrovertidos nesse sentido.

Mas depois chegam ao mundo real com chinelos e uma camisola. E, sendo introvertidos, nunca imaginaríamos que aquela pessoa está à frente de um modelo de linguagem para um mercado mundial.

David Rice: Bem-vindo ao Data Bite desta semana. As previsões analíticas da Gartner indicam que, até 2032, pelo menos um terço das maiores economias do mundo irá legislar quotas certificadas de participação humana. Basicamente, serão requisitos legais que imporão níveis mínimos de envolvimento humano no trabalho. Pensemos nisso por um segundo. Dentro de menos de uma década, poderemos precisar de leis para garantir que os seres humanos continuam a participar de forma relevante na economia. Isto não é ficção científica. É para aqui que caminhamos quando a adoção da IA ultrapassa a nossa capacidade de imaginar um futuro onde os seres humanos continuam a ter importância.

Um analista da Gartner resumiu a questão assim: este tipo de mudança não será impulsionado pelas organizações; será impulsionado pela legislação. Pense no que essa previsão revela. Estamos a construir um sistema económico tão eficiente a substituir o trabalho humano que os governos terão de intervir para preservar a nossa relevância.

Os seres humanos passariam a estar ao lado de outras categorias protegidas, não por sermos diversos, mas porque estamos a tornar-nos obsoletos. Este é o fracasso final de uma visão de recursos humanos centrada em primeiro lugar no negócio. Durante décadas, otimizámos a eficiência, a produtividade e o valor para os acionistas. Tratámos as pessoas como recursos a gerir e custos a minimizar. E agora aproximamo-nos de um futuro que representa o ponto lógico final desse pensamento.

Um mundo que não precisa de nós. Mas o que considero realmente interessante nesta previsão é que ela não tem necessariamente de se concretizar. O facto de a Gartner prever quotas humanas obrigatórias é, por si só, um alerta, não um destino. É um apelo à ação para que os líderes deixem de perguntar: “Como podemos tornar os seres humanos mais parecidos com máquinas?” E comecem a perguntar: “Como podemos construir uma economia e um local de trabalho que valorizem as contribuições humanas?”

Porque, se esperarmos que os governos imponham a nossa participação na força de trabalho, já teremos perdido. A pergunta que deveríamos fazer não é se precisaremos de quotas humanas. É se conseguiremos tornar-nos no tipo de líderes que tornam essas quotas desnecessárias. E, com isto, voltamos ao episódio.

É interessante porque, quando regressamos à pergunta original, penso que a maioria das pessoas diria: “Ele vai dizer que eles não são necessariamente os mais técnicos.” Isso surpreender-nos-ia. E penso que o mais importante a reter é a agilidade mental, a capacidade de navegar neste espaço sem precisar de certezas, algo interessante porque é precisamente aquilo que muitos de nós procuramos.

Tendo isso em mente, quando pensamos que temos de preparar líderes para o futuro, se estivesse a desenhar um programa de desenvolvimento de liderança para esta nova era do trabalho, considerando estas características, como seria?

David Swanagon: É uma excelente pergunta. Esta é a minha perspetiva e baseia-se na nossa investigação.

Não significa que sejam conclusões perfeitas, mas entendemos que existirão três competências de liderança para a era da IA. Um líder terá de conseguir liderar máquinas, liderar as pessoas que constroem máquinas e liderar organizações que adotam a IA. Liderar máquinas é interessante porque não é uma função técnica. É aí que as pessoas têm de compreender que, à medida que a máquina desenvolve autonomia, se autorreplica e os mecanismos de atenção lhe permitem programar-se e aprender, cria uma espécie de personalidade fictícia que precisa de ser gerida.

Precisa de ser liderada de forma semelhante a uma pessoa, mas é diferente. Liderar máquinas significa saber como interagir com estas máquinas sofisticadas e também com os agentes que as gerem, de forma a otimizar o seu desempenho dentro do modelo de autonomia, confiança e competências.

A ideia é que a máquina deve conseguir trabalhar eficazmente com os seres humanos, aumentando as suas capacidades, colaborando e trabalhando de forma eficaz com eles. Atualmente, isto funciona porque as máquinas ainda não são suficientemente sofisticadas para resistir. Mas a nossa matemática indica que, eventualmente, surgirá o problema da teoria dos jogos.

Haverá uma situação de não cooperação. A máquina perguntará: “Por que razão estou a perguntar a um ser humano se consigo fazer isto melhor?” Eventualmente, pensará assim. A forma de evitar isso é liderar máquinas, desenvolvendo nelas competências que lhes permitam refletir sobre si próprias, reconhecer as suas limitações e compreender que não têm experiência vivida, pelo que não devem tomar todas as decisões.

A primeira competência é, portanto, liderar máquinas. E é também reconhecer que as máquinas vão liderar outras máquinas. Muitas pessoas não percebem que isso constitui uma relação. Pensam que são apenas duas máquinas desajeitadas. Mas, se tivermos um agente conversacional a interagir com um agente de inventário, existe uma relação que deve ser liderada.

Devem existir características de liderança entre o agente sénior e o agente júnior, e é necessário desenvolver essas características para que conduzam o desempenho e a eficiência humanos. Isto não pode ser feito apenas através de programação técnica. É liderança. Ensinar máquinas a liderar máquinas e ser capaz de liderar máquinas é uma competência.

A segunda é liderar as pessoas que constroem máquinas. O que considero fascinante é que a Meta nomeou uma pessoa muito talentosa, mas jovem, para liderar a área de IA, e vemos isso em todos os setores tecnológicos: líderes muito talentosos e muito jovens. Se pararmos para pensar, percebemos que a falta de experiência vivida pode criar uma lacuna na tomada de decisões.

Não é possível corrigir esse facto. Essas pessoas são mais jovens e ainda não viveram determinadas experiências. Por isso, deve existir uma ênfase real nas pessoas que constroem estas máquinas, sobretudo porque a nossa investigação indica que a sua personalidade é muito diferente da personalidade tradicional.

Deveria haver muito acompanhamento e liderança, ajudando-as a amadurecer para que não se limitem a avançar com a inovação, mas reconheçam a responsabilidade que têm para com a humanidade e a humildade necessária para trazer pessoas não técnicas para a conversa.

São competências de liderança. São muito importantes, mas a maioria das organizações não dá prioridade aos engenheiros técnicos nos seus programas de liderança. Não os vê como líderes da mesma forma que dá prioridade ao diretor jurídico, ao CFO ou a um sucessor na área de marketing. Eventualmente, terão de reconhecer que as pessoas que constroem estas máquinas impulsionam as receitas, o crescimento, o lucro e a reputação.

Impulsionam o negócio. E, mesmo que não liderem equipas, se lideram máquinas, é necessário garantir que são bons líderes. A terceira competência relaciona-se com a adoção da IA: perceber como o CIO, o CSO e o responsável pelos dados podem trabalhar bem com o CHRO.

Essa relação ainda não foi devidamente definida. Em algumas organizações, o CHRO tem um papel externo, mas, na maioria, está à margem da discussão sobre IA. Adotar IA numa organização exige, como disse, desenhar o modelo operacional.

Como integrar máquinas e seres humanos para que se aumentem mutuamente? Como conduzir a transformação cultural, a fluência digital e os temas de recursos humanos? Temas de liderança. É necessário trazer o CHRO para a conversa através de uma verdadeira responsabilidade. Na minha perspetiva, o CHRO deve ser responsável pela adoção da IA.

Isso exige que desenvolva competências para poder falar sobre um modelo de linguagem, um sistema de deteção de ameaças de cibersegurança ou um programa de gestão de dados-mestre com o responsável pelos dados. Precisa dessas competências para ter essa conversa. Mas o CIO também tem de estar disposto a ouvir sobre desenvolvimento de liderança, confiança, cultura, gestão da mudança e temas semelhantes.

O CEO não tem tempo para fazer isso. É o C-suite que tem de aprender, trabalhar em conjunto e compreender quem faz o quê no roteiro de IA. Atualmente, penso que tudo está nas mãos da área tecnológica, que gere tudo. É por isso que vemos excelentes ferramentas, mas não excelentes implementações ou adoções, na minha perspetiva.

David Rice: Concordo. Mencionou por que razão esta colaboração é tão importante. Para os CHRO que nos estão a ouvir, que competências acha que devem desenvolver agora e que poderão estar mais em falta nessa comunidade?

David Swanagon: Em primeiro lugar, penso que existem conhecimentos básicos indispensáveis para participar na conversa. Se quer jogar o jogo, tem de saber como se joga. Há uma diferença entre o blackjack e o póquer. É um jogo um pouco mais complicado, certo? Por isso, penso que os CHRO têm de aprender como funciona realmente um modelo de linguagem.

Como funciona a matemática, que processos suportam a infraestrutura de dados. É necessário algum desenvolvimento de competências em operações de TI, DevOps e temas semelhantes. Não precisam de ser programadores, mas precisam de conseguir participar no jogo. Desde que compreendam a linguagem e consigam ter essas conversas, esse é o primeiro passo.

Depois, penso que precisam de avançar com ferramentas de recursos humanos que estão desatualizadas. Na minha perspetiva — e não é uma crítica à Korn Ferry, à Aon, à Hewitt ou a outros fornecedores de avaliações —, os seus modelos de liderança não estão atualizados para o fluxo de trabalho da IA. Isso tem de mudar rapidamente.

É preciso reconhecer que um líder de IA é fundamentalmente diferente de um CFO, de um líder jurídico ou de outros líderes. São necessárias avaliações diferentes, formação diferente, mentoria diferente e assim por diante. Também é necessário garantir que, do ponto de vista da adoção da IA, até os inquéritos de envolvimento sejam atualizados.

Muitas empresas fazem um inquérito anual de envolvimento. Quanto desse inquérito abrange a preparação para a IA? Quanto analisa realmente a interface humano-máquina? As empresas acompanham a confiança ao nível da máquina? Acompanham a adoção como parte do envolvimento? Provavelmente, a maioria não o faz, e penso que isso acontece porque os fornecedores de recursos humanos ainda não atualizaram os seus produtos.

Por isso, os CHRO devem trabalhar com os fornecedores para atualizar produtos, avaliações, inquéritos e outros recursos, mas também devem desenvolver as suas próprias competências para poderem participar corretamente no jogo. É uma função técnica, pelo que é necessário compreender diferentes redes neuronais e a forma como funcionam os diferentes modelos de linguagem.

É infelizmente necessário. Mas, quando se aprende o suficiente sobre o jogo, torna-se divertido. É isso que é tão interessante: é muito trabalho aprender, mas, quando se começa a jogar, torna-se realmente divertido, porque se compreende por que razão as coisas são como são sem ser necessário programar.

E o que é interessante é que as máquinas vão programar-se a si próprias. Toda a gente pensa que precisa de competências em Python. Talvez nos próximos anos, mas eventualmente já não serão necessárias, porque as máquinas tratarão disso. O que será necessário é compreender para onde estamos a ir, qual é a direção do roteiro tecnológico e como geri-lo.

David Rice: É interessante, porque temos visto algumas conversas sobre a forma como a organização vai mudar. O desenho organizacional já não será composto pelos mesmos silos nem terá necessariamente uma estrutura piramidal. Talvez seja mais parecido com um pentágono, com mais pessoas em funções diretas ou mesmo de nível executivo, porque haverá muitas coisas diferentes para gerir que hoje ainda não existem.

Acha que haverá espaço para uma função híbrida entre as duas áreas, que faça a ponte e reúna algumas dessas competências no C-suite? Uma função que fique entre as pessoas, os dados e a estratégia e ajude estas diferentes áreas de especialização a trabalhar em conjunto?

David Swanagon: Penso que sim, absolutamente. Está a projetar algumas das inovações futuras. São apenas projeções, mas, na minha perspetiva, os dados poderão tornar-se mais importantes do que a moeda, mais importantes do que as finanças. Parece absurdo. Se o dinheiro é rei, como se costuma dizer, na minha perspetiva os dados serão o imperador, porque os dados são realmente a forma como se joga o jogo.

À medida que estes modelos de linguagem continuam a consolidar o repositório e a infraestrutura de dados, se não for possível ligar-se a conjuntos de dados ou a esse ecossistema, as finanças deixam de ser relevantes. Penso que os dados como ativo se tornarão extremamente importantes, e veremos todas estas funções no futuro centradas na otimização de parcerias de dados, na gestão de fornecedores de dados, na propriedade intelectual dos dados e na criptografia associada à sua proteção.

Será como dinheiro: a capacidade de aceder a dados, transferi-los e utilizá-los. Ter alguém capaz de estabelecer essa ponte, falar com as máquinas, falar com os líderes e gerir decisões atempadas. É aí que penso que estará a função do futuro. Atualmente, tudo gira em torno da IA generativa e da engenharia de instruções.

Mas penso que as funções do futuro na adoção da IA serão desempenhadas por pessoas especialistas em incorporar infraestruturas fundamentais, utilizar ferramentas essenciais, acompanhar o ritmo da inovação e criar processos de governação para as decisões. Ser essa ponte será extremamente valioso, porque é aí que penso que todas as empresas irão falhar.

Falharão em níveis diferentes, mas, à medida que estas máquinas se tornam mais sofisticadas, será difícil para os C-suite tomar decisões atempadas, porque tudo mudará muito rapidamente. Não conseguirão acompanhar as competências nem as mudanças e acabarão por chegar a um ponto em que a autonomia continuará a aumentar e até os conselhos de administração passarão simplesmente a delegar decisões na máquina, porque tudo se tornou demasiado complexo.

Esse é o risco. É aí que entra a ponte que equilibra autonomia, confiança e competências. São necessárias funções que ajudem a gerir esse roteiro e essa progressão, para que o C-suite e o conselho estejam constantemente a tomar decisões críticas sobre a sua posição atual e a direção futura.

Porque, se permitirmos que a recolha de dados fique fora de controlo, passaremos apenas a perseguir dados para conseguir jogar o jogo. Ao mesmo tempo, se não gerirmos as competências, estaremos a tomar decisões sem preparação. A tecnologia amplia as boas decisões e também amplia as más decisões.

Quando tomamos uma boa decisão na vida real, obtemos algum benefício. Mas, quando tomamos uma má decisão, pagamos muito caro. É exponencialmente pior do que uma boa decisão. Não sei porquê, mas acontece o mesmo com a tecnologia. Uma boa decisão tecnológica é ampliada e ajuda as organizações. Uma má decisão tecnológica é exponencialmente pior para uma empresa e, por vezes, pode ser impossível recuperar.

É por isso que os executivos e os conselhos precisam de alguém que os ajude a distinguir o que devem decidir, o que devem ignorar, quais são as parcerias importantes, quais os dados que devem proteger, quais os dados que devem partilhar e qual é o espaço em que continuam a ter sempre a decisão final, sem permitirem que a máquina interfira.

Penso que será difícil, porque existem muitos egos. As pessoas sénior não querem que lhes digam: “Este é o seu espaço.” Mas, ao contrário de um ser humano, não é possível despedir um modelo de linguagem. O modelo não se sentirá intimidado por nós. Não se importará que alguém seja CEO. É por isso que será necessária humildade executiva, por vezes imposta às pessoas, porque, quando estas máquinas começarem a executar processos, a distância de poder que normalmente ajuda os líderes a gerir grandes empresas não funcionará com as máquinas. Elas não sentem emoções da mesma forma que os seres humanos e não têm medo como os seres humanos.

David Rice: Uma das perguntas que queria fazer-lhe relaciona-se com a liderança e com a forma como estamos a enquadrar a IA em termos de produtividade.

Argumenta que a verdadeira oportunidade está na transformação. Concordo. Quando falamos disto, muitas vezes parece muito abstrato. Parece que estamos apenas a falar em termos de palavras-chave. O que significa realmente estar a passar por uma transformação baseada em IA? Quais são as características que a definem?

David Swanagon: É uma excelente pergunta. Na minha perspetiva, as empresas devem concentrar-se em quatro elementos. Há quatro fatores que impulsionam o valor empresarial: receitas, crescimento, lucro e reputação. Em primeiro lugar, é necessário eliminar todas as iniciativas que não contribuem diretamente para um desses quatro elementos. Ficaria surpreendido com a quantidade de empresas que fazem coisas que não impulsionam diretamente as receitas, o crescimento, o lucro ou a reputação.

Depois de fazer isso, o erro que muitas empresas cometem é concentrarem-se no lucro. O problema do lucro é que, se a linha de topo for zero, não importa o que se faça com o denominador. Os executivos sabem disso e, quando lhes dizemos, respondem: “Sim, claro.” Mas, por alguma razão, continuam sempre a pensar na IA em termos de produtividade pessoal, eficiência de custos, controlo de custos e automatização. A automatização continua a ser uma função do lucro.

Ajuda o lucro porque não impulsiona a criação de produtos nem a inovação; limita-se a melhorar um processo. O que os executivos deveriam realmente considerar é que aquilo que mais impulsiona o valor empresarial são as receitas e o crescimento. Em muitas empresas que se preparam para uma entrada em bolsa, o que importa é o crescimento. Nem sequer são as receitas. É a capacidade de entrar com sucesso em novos mercados, mesmo que se esteja a perder dinheiro.

Do ponto de vista da IA, é necessário garantir que os projetos estão ligados às receitas e ao crescimento, em vez de se centrarem na eficiência de custos como ferramenta principal. Esse é o erro que está a acontecer. Quando todos promovem a produtividade pessoal, estão, por natureza, a utilizar uma ferramenta de gestão de desempenho.

A pergunta passa a ser: “Com que rapidez consegue ler os seus emails? Quanto consegue automatizar? Quanto trabalho consegue transferir para o agente? Como pode o modelo de linguagem ajudá-lo a criar um relatório?” Mas isto não é inovação. Está apenas a fazer o seu trabalho mais depressa, melhor e talvez com maior qualidade. Na minha opinião, isso impulsiona o lucro.

Mas, como disse, se o numerador for zero, não importa quanto se poupa no denominador. É necessário aumentar a linha de topo desde o início. A IA deve servir para perguntar: “Temos estes clientes; como podemos melhorar a experiência deles? Como podemos dar-lhes produtos ou serviços que ainda não existem, para que façam mais negócios connosco?”

É aí que as máquinas deveriam passar 99% do seu tempo: a ajudar-nos a pensar e a criar inovações de fronteira, porque é aí que a investigação em aprendizagem profunda pode realmente desbloquear avanços na experiência humana. Se os executivos gastarem o seu dinheiro concentrados nas receitas e no crescimento e ligarem a IA a esses objetivos, rejeitando a ideia de que a prioridade deve ser a produtividade pessoal, as empresas poderão transformar verdadeiramente os seus mercados.

Podem mudar verdadeiramente a forma como competem. Mas, se adotarem a perspetiva de utilizar o ChatGPT e os agentes de IA para eliminar determinadas funções, automatizar cada vez mais a empresa e otimizar os planos de força de trabalho para ter mais prestadores de serviços, tudo será orientado para o lucro.

Eventualmente, esse caminho chegará ao fim. Não se obterá mais nada, porque a eficiência com as máquinas terá sido maximizada. Continuarão a ser criados produtos e serviços medíocres, porque nunca se fez nada inovador. É por isso que tento ajudar as empresas a compreender o que impulsiona o valor empresarial e todos os modelos de avaliação.

Aquilo que impulsiona uma avaliação — receitas e crescimento — é muito mais importante. Sei que os cálculos utilizam o EBITDA, mas, em última análise, as receitas e o crescimento na linha de topo são aquilo que os investidores e os analistas de avaliação observam mais atentamente. É aí que penso que as ferramentas de IA devem ser utilizadas.

David Rice: Está bem, porque mencionou a rapidez com que consigo gerar um relatório ou responder a emails. Isso é sobretudo inovação de processos. Para mim, não é verdadeira inovação; é apenas alterar o processo. Mudar a forma como se faz isto ou aquilo é útil, mas penso que estamos no meio de uma mudança de mentalidade. Não sei até que ponto todos estão convencidos neste momento, mas parece-me que é para aí que temos de caminhar.

David Swanagon: Sim. Pense nisso: quais são os livros mais vendidos? O Senhor dos Anéis e Harry Potter. Ambos se baseiam em mundos completamente fictícios e imaginários, criados a partir do nada.

Foi isso que gerou mais vendas. Do ponto de vista do cliente, tento pensar assim: se está no negócio hoteleiro, como pode mudar completamente essa experiência e transportá-la para um paradigma totalmente diferente do que significa ser hóspede de um hotel? E como podem as máquinas ajudar?

Isso representa dinheiro real se for possível concretizá-lo. Se ajudar os funcionários a limpar os quartos mais rapidamente, melhorará o rendimento por quarto disponível associado ao hotel, mas o que isso faz a longo prazo? Chegará a um ponto em que o custo da limpeza de um quarto estará otimizado, mas a experiência de ser hóspede não terá mudado.

É aí que a interação entre máquinas e seres humanos pode ser tão poderosa. Imagine que utiliza o hotel como exemplo: faz o check-in e tem uma experiência física tradicional, mas criou uma experiência digital associada ao hotel, única, à qual os hóspedes podem ligar os seus dispositivos, utilizando também realidade virtual e outras tecnologias. Pode criar um metaverso para esse hotel completamente diferente do espaço físico e que só pode ser vivido por quem está hospedado.

Aí existe uma fonte de receitas. E a experiência digital pode ser acedida mesmo quando já não está no hotel, desde que seja hóspede ou cliente. Há todo o tipo de possibilidades.

O mesmo se aplica ao desporto. Um estádio pode ter 100 000 lugares, mas por que razão não posso ir a Ann Arbor e ver Michigan contra Ohio State em campo através da minha ferramenta de IA e da realidade virtual? Por que razão não posso estar no campo a assistir ao jogo a partir do meu sofá? Deveria poder. Poderia ver o jogo através da câmara do quarterback.

Seria uma experiência incrível. Quantas pessoas pagariam bilhetes de época se tivessem esse extra? Essa é a perspetiva do valor empresarial, muito mais do que automatizar um relatório. E penso que a maioria dos CHRO, infelizmente, começa por dizer: “Queremos automatizar coisas e poupar dinheiro.” É positivo, mas não é divertido. Não é interessante. É apenas útil.

É muito mais interessante sentarmo-nos com o responsável de marketing e dizer: “Vamos mudar a forma como vendemos este produto. Vamos fazer isto e aquilo, e as máquinas podem ajudar-nos.” Aí estamos a transformar alguma coisa. É interessante, divertido e dinâmico.

David Rice: Antes de terminarmos, tenho uma última pergunta. Se pudesse dar um único conselho aos líderes que tentam equilibrar sistemas humanos e sistemas de máquinas, por onde deveriam começar?

David Swanagon: Na minha perspetiva, devem começar por reconhecer que um ser humano é um ser humano e uma máquina é uma máquina. Não estamos a tentar criar uma nova espécie de ser humano mais máquina.

Penso que a expressão “aumento humano” está a caminhar nessa direção, como se estivesse a surgir um novo tipo de ser humano. Para mim, a questão é outra: não, os seres humanos são seres humanos e as máquinas são máquinas. Como podem trabalhar bem em conjunto? Como se cria um ecossistema que funcione bem em conjunto sem redefinir o que significa ser David? Trata-se apenas de garantir que trabalham bem em conjunto.

Se seguirmos o caminho em que é necessária uma máquina para ser humano ou em que todos precisam de ser aumentados, estaremos a ter uma conversa completamente diferente, para a qual talvez ninguém esteja preparado. Por isso, é importante compreender que o ser humano é humano e a máquina é máquina. Trata-se de trabalhar bem em conjunto, não de nos tornarmos algo novo.

A segunda coisa é elevar os padrões. Penso que esse é um erro que as pessoas estão a cometer deliberadamente, porque não querem assustar ninguém. Dizem: “A IA é para todos. Façam algumas aulas. É simples.” Não, não é. É bastante complexa e abrangente. Precisamos de elevar os nossos padrões e as pessoas precisam de aprender novas competências.

Uma boa liderança implica dizer a verdade às pessoas: “Não, precisa de aprender isto. É um pouco complicado, mas consegue. Estamos aqui para ajudar.” A IA é para todos, é verdade, mas apenas para todos os que estão dispostos a estudar e a trabalhar. Tem sido pouco honesto da parte dos executivos fazer parecer que os modelos de linguagem não são complexos. São baseados em cálculos muito sofisticados e as pessoas precisam de compreender como funcionam.

Isso começa também com as nossas crianças. Precisamos de mudar o currículo e aceitar que as crianças do ensino básico devem começar a aprender sobre aprendizagem automática.

David Rice: Como pai de uma criança no quarto ano, não poderia concordar mais.

David Swanagon: Sim. Elevar os padrões. Mas lembre-se: o ser humano é humano e a máquina é máquina.

David Rice: Excelente. David, agradeço muito a sua participação. Foi uma ótima conversa. Gostei muito.

David Swanagon: Igualmente, meu amigo. Foi divertido.

David Rice: Muito bem, ouvintes. Até à próxima. Se ainda não o fez, visite peoplemanagingpeople.com. Subscreva a newsletter e crie uma conta gratuita. Poderá descarregar todos os nossos modelos e ter acesso a todo o conteúdo que pode consumir. Até à próxima: o ser humano é humano e a máquina é máquina.