O que estamos a fazer mal relativamente à IA e à produtividade

David Rice: Portanto, a sua equipa está a usar IA para escrever relatórios, analisar dados e tomar decisões mais rapidamente. A produtividade aumentou, certo? As métricas trimestrais provavelmente parecem excelentes, mas adivinhe: está silenciosamente a tornar as suas pessoas mais estúpidas. Não estou a dramatizar. Um estudo recente com profissionais de saúde que utilizavam ferramentas de diagnóstico assistidas por IA concluiu que estes se tornaram tão dependentes da tecnologia que, quando a IA era desligada, o seu desempenho piorava drasticamente em comparação com o período anterior à sua utilização. Isto não é um problema de formação. É atrofia cerebral.

A convidada de hoje do podcast é a Dra. Vivienne Ming. É neurocientista teórica, empreendedora e, há 15 anos, previu que a navegação por GPS iria aumentar causalmente as taxas de demência. Hoje existem provas empíricas de que tinha razão, mas não é disso que vem falar.

O que vem dizer-nos é que temos agora uma escolha entre dois caminhos completamente diferentes: a automação cognitiva, em que a IA faz o trabalho por si e obtém ganhos rápidos, mas perdas a longo prazo; ou o aumento cognitivo, em que a IA torna o trabalho mais difícil de formas que tornam genuinamente melhores as suas pessoas.

Vamos abordar por que razão dizer que a IA torna a vida mais fácil é, neste momento, o discurso mais perigoso no mundo empresarial; a diferença entre a automação que desgasta competências e o aumento que as desenvolve; como redesenhar ferramentas de IA para que as pessoas estejam melhores quando terminam de as utilizar do que quando começaram; e por que razão os líderes que escolhem a versão preguiçosa verão ganhos a curto prazo e fracasso estratégico.

Sou David Rice. Este é o People Managing People. E, se tem celebrado ganhos de produtividade sem perguntar o que está a perder pelo caminho, esta conversa é um verdadeiro alerta. Vamos começar.

Vivienne Ming: É ótimo estar aqui.

David Rice: Antes de começarmos, estava a percorrer as notícias, como costumo fazer, e vi um artigo. A Nature publicou na semana passada um estudo que dizia que, quando recebe informação, particularmente proveniente das redes sociais, a IA tem dificuldades em compreender qualquer coisa. Queria saber a sua reação, porque as palavras utilizadas foram: demasiadas redes sociais provocam podridão cerebral nos chatbots de IA.

Vivienne Ming: Sim.

David Rice: Então este conteúdo não é bom para ninguém?

Vivienne Ming: Podridão cerebral é a expressão do momento. Podridão cerebral e trabalho medíocre. Posso dar-lhe uma resposta muito técnica sobre o que está a acontecer e sobre o que deveríamos fazer, mas, para um público geral, devemos estar preocupados, certo? É preciso muito pouca informação de baixa qualidade para enviar um modelo linguístico de grande dimensão numa direção completamente descontrolada.

Mesmo quando recuamos e falamos daquilo a que se chama afinação com intervenção humana ou aprendizagem por reforço, é extremamente difícil fazê-lo regressar ao seu potencial original. Muitas pessoas falam da importância de dados de boa qualidade. Este é um daqueles exemplos em que uma quantidade relativamente pequena de informação não intencional — ou, em alguns casos, intencionalmente introduzida no sistema — pode transformar-se numa forma de piratear o cérebro.

Por isso, isto nem sequer é podridão cerebral; é como um verme cerebral. São coisas com que devemos preocupar-nos. Eis a minha resposta algo técnica, sobre a qual escrevi um artigo que vou submeter: os seres humanos são imperfeitos. Também estamos cheios de preconceitos. E acontece que, quando somos expostos à internet, o nosso cérebro também apodrece.

Mas, apesar dessas verdades genuínas e honestas, os seres humanos, regra geral, fazem algo muito importante. Se recebemos uma informação completamente absurda, ignoramo-la. Há obviamente exceções, mas, nos casos da investigação sobre a podridão cerebral referida nesse estudo, tratava-se frequentemente de puro disparate.

Nenhum ser humano encontraria uma página cheia de disparates e pensaria: meu Deus, tenho de memorizar isto. Temos, portanto, um superpoder que a IA atual realmente não possui. Temos um modelo do mundo. O mundo da IA fala muito sobre modelos do mundo, mas, na realidade, não é bem assim. Observamos o mundo, aplicamos esse modelo e, quando algo não se encaixa, para o bem ou para o mal, dizemos: sabe que mais? Isto é menos importante e não vou codificá-lo tão profundamente. Temos de pensar em como levar as IA a fazer o mesmo.

A ideia de que temos de ajustar manualmente conjuntos de dados perfeitos e de que nunca se pode mostrar a uma IA um raio-X errado ou um fragmento de lixo da internet sem que ela desenvolva podridão cerebral é uma verdadeira fraqueza na forma como a treinamos atualmente.

David Rice: Ouvimos pessoas dizer que criámos um cérebro tão sofisticado como o nosso. Já ouvi isso antes e penso: não sei se é bem assim. Muitas vezes opus-me ao uso do termo cérebro. Mas, quando vi isto, pensei: talvez seja mesmo um cérebro. O conteúdo das redes sociais está a ter na IA o mesmo efeito que tem em nós.

Vivienne Ming: Gosto de adoptar uma abordagem equilibrada. Sou realista em relação à IA. O mundo está cheio de disparates. Os utópicos da IA que pensam que ela vai resolver tudo estão cheios de distopias que acreditam que estamos a construir a Skynet. Eu gostaria que tivéssemos um problema de Skynet, apenas no sentido de desejar que tivéssemos alguma ideia de como construir algo assim.

Não temos. Não fazemos ideia. Mas aquilo que construímos é genuinamente inteligente. É inteligência artificial; simplesmente possui uma forma específica de inteligência: aprendizagem estatística. É algo que também utilizamos enormemente e que partilha essa característica connosco. Nesse sentido, existem muitas semelhanças entre aquilo que, em particular, os grandes modelos linguísticos fazem e aquilo que os seres humanos fazem.

Mas temos muitas outras formas de inteligência: ideias computacionais de baixo nível, inteligência de alto nível e capacidade de compreender o panorama geral. Henry Molaison, uma figura famosa, foi submetido a uma cirurgia para prevenir a epilepsia no início da vida e depois nunca mais formou uma nova memória de longo prazo. Pessoas como eu conhecem-no apenas como o famoso sujeito de toda essa investigação.

Ele sabia tocar guitarra, mas não conseguia recordar-se de alguma vez ter aprendido a fazê-lo. Nesse sentido, existem diferentes tipos de inteligência. Não conseguia formar novas memórias, mas ainda conseguia aprender a tocar guitarra. As máquinas e os seres humanos têm, portanto, diferentes pontos fortes. Se parássemos de tentar construir seres humanos artificiais e celebrássemos aquilo que a inteligência artificial faz bem, estaríamos num espaço muito melhor.

David Rice: Concordo consigo. É engraçado, porque isso conduz ao rumo que imaginava para esta conversa: existe a ideia de que a IA vai tornar tudo mais fácil, mais conveniente, eficiente, produtivo e rentável. Creio que é nisso que muitos executivos parecem estar a pensar actualmente. Mas, quando falámos antes, desafiou essa narrativa, perguntando: e se a IA não tornar a vida mais fácil? E se a tornar mais difícil, de formas que nos tornam melhores? O que é que isso significa, nas suas palavras?

Vivienne Ming: Partilhei recentemente na minha newsletter uma investigação completamente alheia à IA. Uma das conclusões foi que as pessoas têm maior probabilidade de investir — por exemplo, um capitalista de risco num empreendedor — quando os rostos são mais semelhantes. Controlando factores como raça, género e idade, a probabilidade de investir aumenta quando as pessoas têm rostos parecidos.

É uma experiência interessante que, de certa forma, só poderia ser feita com IA: medir numericamente a semelhança entre rostos e concluir que se tem mais 3% de probabilidade de obter um investimento quando se apresenta a um investidor de capital de risco que se parece consigo, apesar de se ter menos 7% de probabilidade de gerar retorno. Refiro isto porque, como disse, estamos cheios dos nossos próprios preconceitos.

Temos tendência para investir em pessoas que se parecem connosco, embora isso produza piores retornos. Gostamos de pensar que somos perfeitos e racionais, mas não somos. Uma das formas em que somos profundamente irracionais — mais nuns do que noutros, é verdade — é querer facilitar a vida.

Na psicologia, falamos de processamento superficial e profundo. A maior parte do tempo, mesmo as pessoas mais brilhantes passam pela vida de forma relativamente superficial, e isso é aceitável. Mas temos de ir mais fundo de vez em quando.

E o mais curioso é que construímos a ferramenta perfeita para passarmos o resto da vida tão superficialmente quanto conseguirmos imaginar. Se acrescentarmos a isso o facto de a tomada de decisões dos líderes empresariais ser imperfeita — escolher o homem que se parece connosco em vez da pessoa mais adequada para o trabalho — temos um problema.

Outra investigação que partilhei esta semana revelou que o princípio de Peter é real: nas equipas de vendas, as pessoas são promovidas pela qualidade das suas vendas, não pelo seu potencial enquanto gestores. Isto tem consequências económicas reais dentro das empresas. Fazemos todas estas coisas enquanto os mesmos seres humanos tomam decisões sobre promoções, investimentos e implementação da IA.

Estamos a aceitar a ideia de que o valor da IA consiste em tornar a nossa vida fácil: ela fará todo o trabalho aborrecido e nós poderemos dedicar-nos ao trabalho criativo e interessante. Na minha investigação, acontece que, quanto mais trabalho aborrecido é feito com IA, mais trabalho aborrecido existe para todos.

Um exemplo óbvio: muitas empresas dizem internamente às suas equipas para deixarem a IA ler todos os seus e-mails e escrever todos os seus e-mails, poupando esse tempo de comunicação desperdiçado. Mas, se a IA produzir uma grande quantidade de e-mails inúteis e semelhantes a spam, acabará por receber mais e-mails, não menos, para tratar.

Por isso, a ideia de que o objectivo da IA são ganhos rápidos e fáceis de eficiência é, na minha opinião sincera, um beco sem saída. Entre outras razões, porque substitui as pessoas e desgasta demonstravelmente o capital humano. A ideia de que a IA fará todo o trabalho aborrecido e nós nos tornaremos magicamente supercriativos simplesmente não é verdadeira.

Se quer pessoas melhores e está entusiasmado com a IA, tem de construir uma IA que apoie explícita e inequivocamente a criatividade. Acontece que a melhor IA para isso não torna a sua vida mais fácil; torna-a mais difícil. Diz: essa não é uma boa ideia. Apresenta três razões que mostram que está errado. É a oposição leal. No meu próximo livro, chamo-lhe o prompt némesis.

Usei-o para escrever o livro. Escrevia um capítulo e depois dizia: Gemini, és a minha némesis, o meu pior inimigo de toda a vida. Aqui está o novo capítulo do meu livro. Encontra tudo o que disse que está errado, todas as más ideias e todos os factos facilmente refutáveis que partilhei. Explica-mos detalhadamente e, se puderes, diz-me finalmente como o posso melhorar.

Não usei a IA para tornar mais fácil escrever o meu livro. Usei-a para o tornar mais difícil, das formas que me tornaram melhor.

David Rice: Isto aparece em toda a cultura relacionada com a IA. Vemo-la como um atalho para a produtividade ou uma ferramenta de conveniência que nos tornará mais eficientes, mas não ouvimos o suficiente sobre a IA como catalisador de crescimento ou como forma de transformar a maneira como formamos líderes.

Vivienne Ming: Quando comecei a afastar-me parcialmente da academia, embora continue fundamentalmente a ser cientista, comecei a ser convidada para fazer apresentações e participar em painéis sobre a forma como o futuro do trabalho iria mudar.

Tendo fundado empresas de IA na educação, no mercado de trabalho e na medicina, subi ao palco. Muitas vezes alguém que partilhava o palco comigo dizia que era simplesmente como a Revolução Industrial: não tínhamos de nos preocupar, seriam criados mais empregos do que os destruídos e o futuro seria extraordinário. Era como se a Revolução Industrial fosse uma prova matemática irrefutável.

Escrevi cem mil palavras sobre isto, que acabaram por se tornar um capítulo do meu livro. A questão era: compreendemos realmente o que foi a Revolução Industrial e o que fez? E este momento é simplesmente uma linha de produção, electricidade ou um motor de combustão interna?

A IA não eleva todos a partir da base. Na verdade, para a IA não existe uma base. Pode pedir-lhe para escrever o tweet mais estúpido do mundo ou gerar uma imagem descartável, mas também pode pedir-lhe que crie uma ideia totalmente nova sobre a origem do cancro e sobre como poderíamos transformá-la para sempre. A IA não sabe a diferença entre essas duas coisas.

O resultado pode ser uma piada efémera, engraçada para cem pessoas durante 35 milissegundos, ou uma transformação do futuro da humanidade. Isto não é uma linha de produção nem uma revolução agrícola. Não significa que vá ser mau, mas também não significa que vá ser bom.

Os seres humanos são desorganizados e a IA é um pouco como nós: também é desorganizada, embora de formas diferentes. Quando juntamos as duas coisas correctamente, acontece algo extraordinário. Quando as juntamos de forma errada, os especialistas tornam-se piores a diagnosticar o cancro e os estudantes aprendem menos ao escrever ensaios, apresentando uma actividade cerebral degradada ao longo do tempo.

Não é bom nem mau. No fim, é um sistema grande, complexo e dinâmico, e o que importa é a forma como o utilizamos. Se não nos empenharmos em aprofundar o pensamento, fico preocupado.

David Rice: A questão a que volto sempre é que estes acontecimentos históricos anteriores não ocorreram a este ritmo. O cérebro não está necessariamente preparado para lidar com o nível de mudança de que estamos a falar. Já conseguimos ver isso na capacidade das pessoas para distinguirem o que é real quando olham para conteúdos na internet. Por vezes não sabem se algo foi criado por IA, se é realmente IA ou se alguém está a afirmar que é IA quando não é.

Nunca tivemos de desafiar a nossa própria realidade desta forma. É uma tarefa muito diferente para os seres humanos. E a questão essencial é a forma como utilizamos a tecnologia. Se temos dificuldade em compreendê-la e, ainda assim, a utilizamos, existe muito espaço para a utilizarmos mal.

Vivienne Ming: Estou a trabalhar num estudo-piloto para compreender a inteligência colectiva híbrida: o bom, o mau e o terrível da interacção entre seres humanos e máquinas e aquilo que podem fazer. É ainda muito cedo, mas quero medir o impacto profundo das pessoas no mundo observando o seu desempenho na realização de previsões.

Existe um site chamado Polymarket, onde as pessoas podem fazer apostas monetárias sobre acontecimentos mundiais. Poderíamos reunir participantes universitários, colocá-los em equipas de três a cinco pessoas e pedir-lhes que fizessem previsões. Depois compararíamos os resultados dos participantes, do mercado, do Gemini e do GPT.

Os seres humanos inexperientes não têm um desempenho extraordinário. As IA têm um desempenho razoável, sobretudo quando a resposta óbvia está correcta. Quando as coisas seguem direcções inesperadas, têm mais dificuldade.

Quando se juntam seres humanos e máquinas, tudo se torna muito mais complexo. O que prevê o desempenho não é tanto o modelo de IA utilizado, mas o capital humano, porque este determina a forma como as pessoas interagem com a IA. Quando o capital humano é baixo, as pessoas limitam-se a fazer o que a IA diz. O resultado é praticamente igual ao da IA sozinha.

Quando o capital humano é elevado, as pessoas não aceitam simplesmente o conselho da IA. Cria-se uma dinâmica: os seres humanos têm ideias, a IA aperfeiçoa-as, os seres humanos voltam a ter ideias e a IA volta a aperfeiçoá-las. Depois de alguns ciclos, grupos humanos inexperientes conseguem resultados comparáveis aos do mercado.

O mais entusiasmante é que têm melhor desempenho quando o resultado é inesperado. A inteligência híbrida parece ser melhor, mas tudo depende da forma como nos envolvemos. Só existem benefícios reais quando participamos profundamente no sistema, em vez de o tratarmos como o nosso cérebro colectivo.

A coisa mais inteligente do planeta actualmente é a inteligência híbrida. Não é uma super-IA isolada nem um génio específico. É um grupo, mesmo modestamente acima da média, capacitado por uma IA. Quase nada se compara a isso.

David Rice: Isto é fascinante. Faz-me pensar em muitas ideias. Li sobre o Polymarket no fim de semana passado e foi a primeira vez que ouvi falar dele. Começo a ver cada vez mais plataformas onde se pode apostar em praticamente qualquer coisa.

Queria falar sobre o mito da eficiência. Vemo-lo em todo o local de trabalho: a ideia de que estamos todos a viver através da eficiência dos nossos fluxos de trabalho. Acha que esta narrativa está a desviar o potencial da IA para transformar o local de trabalho?

Vivienne Ming: A suposição de eficiência pressupõe várias coisas. Uma delas é que temos um bom modelo de eficiência: que o número de linhas de código escritas pelos engenheiros ou o fluxo de negócios da equipa de vendas representam globalmente aquilo que torna uma empresa excelente.

Grande parte do crescimento económico provém de capital intangível. A maior parte desse crescimento não é uma melhoria geral da economia; é um subconjunto de empresas verdadeiramente transformadoras. É difícil identificar exactamente o que trazem ao mundo, mas são muito mais produtivas.

Não se pode dizer que isso acontece porque os seus trabalhadores escrevem e-mails mais depressa, escrevem código mais depressa ou fecham negócios mais rapidamente. Estudos internos da Google mostraram que as equipas excelentes eram, de certa forma, ineficientes: passavam pouco tempo a interagir umas com as outras e muito tempo a interagir com outras pessoas da organização. Depois reuniam-se brevemente, confiando que os restantes estavam a fazer bem o seu trabalho.

A minha investigação analisou aquilo a que chamo produtividade de ordem superior: de que forma uma pessoa torna melhores as pessoas à sua volta. Descobrimos que cerca de 11% dos trabalhadores eram responsáveis por 80% da produtividade que não era registada pelas métricas individuais.

Essas pessoas não se distinguiam por serem mais rápidas ou eficientes. Ajudavam. Se viam alguém ou alguma coisa que precisava de ajuda, mesmo que não fizesse parte das suas funções, ajudavam. E tornavam melhores todos os que estavam à sua volta.

Que métrica de eficiência capta isso? Estamos a acompanhar muito pouco desse factor. Precisámos de modelos matemáticos sofisticados para o detectar, mas ele está presente.

Se substituir trabalhadores de um centro de atendimento por chatbots, reduz imediatamente o custo de uma pessoa. Mas, se isso gerar mais problemas no tratamento dos clientes ou obrigar os programadores seniores a passar mais tempo a corrigir erros produzidos pela geração automática de código, não tornou nada melhor.

Quando pessoas com elevado capital humano utilizam a IA para interagir mais profundamente com o seu código, podem ser mais lentas no momento, mas o impacto positivo a longo prazo é maior. A qualidade aumenta o suficiente para compensar largamente a redução na eficiência tradicional.

As nossas intuições sobre o que é eficiência e sobre como a medimos estão muito erradas num mundo em que deveríamos permitir que as pessoas cometessem erros produtivos e explorassem formas alternativas de fazer as coisas, apoiadas pela IA, em vez de deixarmos a IA fazer simplesmente aquilo que já sabemos fazer, a um custo inferior.

David Rice: Gosto que tenha mencionado o impacto que certas pessoas têm quando saem. Todos já fizemos parte de equipas em que alguém saiu e, embora não parecesse que isso teria grande importância, essa pessoa era uma espécie de elemento agregador. Quando saiu, a equipa deixou de funcionar correctamente durante algum tempo. Como se quantifica isso através de dados?

Vivienne Ming: No desporto, isto é levado muito a sério. Existem métricas como o valor acima da substituição. Quando se utilizam esses modelos, surgem pessoas interessantes e inesperadas, enquanto outras que pareciam extraordinárias desaparecem dos lugares cimeiros.

Não é preciso adoptar uma abordagem sentimental. Basta pensar na complexidade: há muitas partes que têm de encaixar. Levamos a sério a complexidade da cadeia de abastecimento; porque não levamos a sério a complexidade do capital humano?

Uma pessoa excelente numa equipa pode não ser excelente noutra. Existem combinações certas para cada pessoa. Por vezes, um jogador que não marca pontos torna a equipa melhor. Um atleta excepcional pode transformar uma equipa sólida, mas comum, numa candidata permanente ao campeonato mundial porque torna todos os outros melhores.

O que observámos nos dados foi que algumas dessas pessoas eram estrelas evidentes, mas não havia uma correlação forte com as métricas individuais. Algumas tinham métricas individuais bastante fracas, mas seria absurdo deixá-las sair se compreendêssemos como tornavam todos os outros melhores.

Quando pensa em IA, tem de pensar na forma como ela torna as pessoas melhores, não na forma como as substitui.

David Rice: Deu o exemplo de uma rede neuronal com 500 000 pessoas. Há muitos pontos de vista que não poderiam existir sem todas essas pessoas na rede. Existe actualmente uma grande preocupação com a perda de funções de entrada. Todos os ouvintes regulares saberão o custo de eliminar a experiência inicial como percurso de aprendizagem e os danos no planeamento de sucessão. Mas também se perde uma perspectiva nova, um olhar exterior.

Pergunto-me se existe um custo cognitivo mais amplo na forma como aprendemos a compreender o nosso lugar nas organizações e na sociedade. Num mundo em que a IA nada sabe, o que perdemos se eliminarmos a primeira experiência no local de trabalho?

Vivienne Ming: Os meus estudantes de pós-graduação, em Berkeley e noutros locais, são algumas das pessoas mais inteligentes com quem trabalhei. Conhecem o seu tema tão bem como qualquer pessoa no mundo, e provavelmente melhor do que eu. Porque estou eu presente? Eles poderiam aprender todos os factos numa biblioteca. Os artigos estão publicados e poderiam ler a investigação original. Conhecem a matemática, o cérebro e a IA.

Sabem tudo e não compreendem nada. O meu trabalho não é ensinar-lhes mais factos; é ensinar-lhes compreensão. Como se é cientista? Como se explora o cérebro? Como se investiga o desconhecido? Depois de aprender todos os factos, a questão é: o que fazemos agora? Nem sequer é qual é o próximo facto, mas qual é a próxima pergunta?

Trabalhar com um grande modelo linguístico é muito semelhante a trabalhar com os meus estudantes, excepto que a IA sabe tudo sobre tudo. Posso fazer perguntas sobre direito, cérebro, engenharia ou matemática e ela dará respostas. Mas não compreende nada sobre aquilo que não sabe, pela própria forma como foi construída.

O papel dos seres humanos é explorar o desconhecido. É isso que nos torna excelentes. No início da carreira, o valor de uma pessoa que acabou de sair da faculdade de Direito ou de Medicina, ou que está a fazer o primeiro trabalho de marketing, não está apenas naquilo que sabe. Estamos a alugar esse conhecimento para que as pessoas mais seniores não tenham de fazer o trabalho básico.

Faça a preparação de processos, reveja contratos e passe tempo na urgência como médico residente. O que eu lhe vou ensinar não é apenas a lei, mas o que fazer com a lei. É preciso conhecer as coisas e compreendê-las. Se retirarmos das carreiras das pessoas a parte de aprenderem os factos, como irão alguma vez compreender? Como irão aplicá-los?

A melhor decisão não acontece quando a IA analisa uma folha de cálculo e depois a pessoa decide. Acontece quando a pessoa e a IA analisam a folha de cálculo juntas e dizem: não, vamos tentar isto; e se fizéssemos aquilo? A pessoa participa activamente no processo de análise. Não o terceiriza.

Não existem empregos exclusivamente da IA e empregos exclusivamente humanos. Somos ciborgues. Tudo é um trabalho combinado. A tecnologia pode acelerá-lo um pouco, mas transforma a qualidade do trabalho e dá a todos uma oportunidade de aprender.

David Rice: Há muito para explorar, mas volto sempre ao facto de a IA não ter contexto do mundo, nem da experiência humana. O julgamento prático forma-se ao longo do tempo, através de pequenas experiências que influenciam a forma como começamos a ver o nosso papel, o local de trabalho ou o nosso chefe. A minha grande preocupação é a perda do crescimento: o processo necessário para um ser humano crescer dessa forma.

Vivienne Ming: Existe um paradoxo interessante. Uma das áreas em que a investigação sobre IA se desenvolveu mais profundamente durante mais tempo é a educação. As pessoas constroem tutores de IA há muito tempo e existe uma regra fundamental: se o tutor alguma vez der a resposta aos estudantes, estes deixam de aprender.

Se o modelo linguístico lhe dá as respostas no início da carreira, extrapolando 50 anos de investigação, nunca aprenderá a fazer o seu trabalho. Algumas pessoas irão aprofundar e envolver-se, mas são uma pequena minoria.

O melhor tutor de IA nunca dá as respostas. É capaz de o fazer, mas não o faz. Em vez disso, pergunta: o que pensa disto? Como resolveria o problema? Leu este artigo? Ouviu o que essa pessoa disse? O sistema conduz o estudante à sua própria compreensão, sem simplesmente lhe entregar a resposta.

A tecnologia não deve apenas tornar-nos melhores enquanto a utilizamos. Devemos estar melhores do que estávamos quando começámos, mesmo depois de a desligarmos. Existe muita investigação, incluindo a minha, que mostra que isso não acontece actualmente. A pessoa média que interage com um modelo linguístico torna-se pior precisamente nas competências que tenta desenvolver com essas ferramentas.

Não tem de ser assim. A IA não é a vilã; o problema é a interacção entre nós e a IA. Podemos construir IA que não dê respostas prontas ou desenvolver capital humano que leve as pessoas a envolver-se profundamente. E se construíssemos uma IA para nos dar aquilo de que precisamos para sermos melhores, e não aquilo que queremos? Essa é, para mim, a ética subjacente.

David Rice: Numa conversa anterior utilizou a expressão economia da Jiffy Lube. Pareceu-me uma forma de desprofissionalização. Explique-me o que quer dizer.

Vivienne Ming: Uma das afirmações habituais é que a IA criará mais empregos do que destruirá, tal como os teares deram origem à indústria do vestuário. Em teoria, concordo: a IA deveria criar muito mais empregos do que destruir. Mas, no momento em que cria um novo emprego, se esse emprego for regular e tiver valor económico, dentro de seis meses existirá uma IA para o fazer também.

A questão não é se criará mais empregos do que destrói. A questão é: quem estará qualificado para os empregos que a IA não consegue fazer? Actualmente, esse número é preocupantemente pequeno.

Imagine um futuro em que cada médico de família tem acesso aos dados do relógio inteligente e aos registos de saúde do paciente, podendo fazer diagnósticos extraordinários. Isso é conceptualmente possível e a investigação sobre inteligência colectiva híbrida na medicina é muito promissora.

Mas podemos acabar com uma colonoscopia ao estilo Jiffy Lube: uma pessoa com o ensino secundário, suficientemente conscienciosa para aparecer todos os dias no trabalho, liga-o a um computador. Não vale a pena construir um robô para fazer isso, mas, por uma fracção do custo de um médico, obtém-se 80% do valor por 20% do preço.

Muitos directores financeiros considerariam isso uma grande vitória. Os empregos não desaparecem; são desprofissionalizados. Poderão surgir muitos empregos de baixa qualificação simplesmente porque não compensa construir um robô para os desempenhar. Que divisão profunda na sociedade: ter um emprego apenas porque não vale a pena construir um robô para o fazer.

David Rice: Passamos muito tempo a falar de aumento, que é aquilo que muitas pessoas dizem querer da IA. Mas isso transforma-se frequentemente no que podemos chamar automação cognitiva. Qual é a diferença entre automação cognitiva e aumento cognitivo, e por que razão essa distinção importa para a liderança actual?

Vivienne Ming: Se está realmente a utilizar o cérebro e as capacidades que nos tornam humanos, a actividade exige esforço. Está a gerir emoções, a lidar com questões cognitivas complexas e a planear ao longo do tempo. Existem sinais neurológicos que indicam que está a pensar intensamente.

Um estudo do MIT descobriu que esse tipo de actividade diminuía nos estudantes que utilizavam modelos linguísticos para escrever ensaios. Os estudantes que não tinham ajuda tinham de pensar mais. A pontuação e a qualidade da escrita eram ligeiramente piores, mas apresentavam maior activação cerebral. Mais tarde, lembravam-se do que tinham escrito e sentiam que o texto lhes pertencia. Os estudantes que utilizaram o modelo mal conseguiam citar o que supostamente tinham escrito.

Pensemos na navegação por GPS. Durante anos, os neurocientistas estudaram os taxistas de Londres, que tinham de memorizar todos os endereços e o traçado das ruas. Tinham hipocampos extraordinariamente desenvolvidos e vidas cognitivas mais saudáveis na velhice.

Há cerca de 15 anos, previ que a utilização da navegação automática iria aumentar causalmente as taxas de demência, porque deixa de ser necessário pensar activamente. Hoje existem provas empíricas: a pessoa chega melhor ao destino enquanto utiliza a tecnologia, mas fica pior depois, porque comprometeu a saúde cognitiva futura ao não utilizar o cérebro.

A automação cognitiva levou-me até lá. O aumento cognitivo teria simplesmente fornecido o necessário para lá chegar. Podemos redesenhar o Google Maps, o Waze ou a Apple para que, além de chegarmos ao destino, estejamos melhores quando chegarmos.

Uma solução simples é utilizar o mapa e, ao mesmo tempo, aplicar o que sabemos. Posso conhecer os padrões de trânsito de Berkeley, Los Angeles ou Londres. Sei que determinada curva será um desastre porque há um jogo, ou que posso atravessar um pátio público que não aparece no mapa. Estou a utilizar o meu cérebro enquanto beneficio da IA. Isso é aumento cognitivo.

Podemos construir sistemas que nos aumentem e tornem melhores, mas esse não é o funcionamento predefinido da maioria dos grandes modelos linguísticos actuais.

David Rice: Mudei de cidade há alguns anos e queria construir um mapa mental interno. Depois de alguns meses, deixei de usar a navegação. Mas descobri que ainda era útil para saber qual dos dois caminhos era mais rápido naquele momento. Uso-a para isso, mas faço o percurso sozinho.

Vivienne Ming: Exactamente. Existe um estudo em Portugal com gastrenterologistas. Médicos que fazem colonoscopias com um sistema assistido por IA tornam-se dramaticamente piores do que eram antes quando a IA é desligada. Uma resposta comum é dizer que são melhores enquanto a utilizam, mas isso não chega se a tecnologia estiver a desgastar as suas competências.

A inteligência artificial e a inteligência humana cometem erros diferentes e têm pontos fortes diferentes. Se terceiriza simplesmente o cérebro para a IA, deixa de tirar partido da capacidade humana de pensar: a minha intuição diz-me que aquele pólipo parece suspeito, por isso vou removê-lo, mesmo que a IA diga que está tudo bem.

É nessa interacção entre forças diferentes que a inteligência híbrida começa realmente a desenvolver-se. A automação não oferece isso.

David Rice: Esta foi uma conversa fascinante, Vivienne. Obrigado por se juntar a nós. Gosto particularmente de falar sobre o que está realmente a acontecer com o cérebro, a IA e a forma como interagimos com ela, bem como sobre os possíveis efeitos a longo prazo.

Vivienne Ming: Obrigada por me receber. Se pudesse deixar uma última ideia, seria esta: os seres humanos que vão ser decisivos são os líderes. Se escolherem a versão preguiçosa e utilizarem a IA para substituir pessoas, terão um rápido aumento da produtividade e uma perda a longo prazo. Se estiverem dispostos a investir no capital humano, verão retornos reais, mas isso exige coragem e a disposição para gastar capital político dentro da empresa.

David Rice: Sem dúvida. Falei na semana passada com líderes de recursos humanos e disse-lhes que talvez não tenham entrado nesta área para ter conversas filosóficas, mas chegou o momento de ter uma. Todos teremos de ter essa conversa. Obrigado por se juntar a nós e por essa nota final.

Vivienne Ming: Foi um verdadeiro prazer. Muito obrigada.

David Rice: Caros ouvintes, se ainda não o fizeram, subscrevam a newsletter. Visitem peoplemanagingpeople.com. Também poderão consultar o nosso Explorador da Transformação da IA. Se ainda não criaram uma conta gratuita connosco, façam-no. Terão acesso ao Explorador da Transformação.

Até à próxima. É o ser humano que está a moldar tudo isto, e são vocês que estão a liderar o caminho.