A IA Parece Convincente. Esse É Precisamente o Problema.

Atualmente, toda a gente tem uma posição sobre a IA. Uns estão totalmente a favor, outros contra, e há ainda quem esteja à espera para ver como tudo isto se desenrola. Defendemos essas posições com muita confiança e, por baixo dela, quase ninguém compreende realmente o assunto ou para onde tudo isto está a caminhar. Por isso, o LinkedIn enche-se de pessoas que já formaram a sua opinião.

Na semana passada, envolvi-me numa discussão com uma dessas pessoas. Tinha publicado um apelo: parem de usar a IA para obter feedback sobre o vosso trabalho. E o seu argumento era bom, do tipo que leva a maioria das pessoas a concordar. A IA nunca se cala. Pergunte-se-lhe o que quer que seja e ela terá algo a dizer, certo ou errado. Se precisa da IA para lhe dizer se o seu trabalho é bom, argumentava essa pessoa, então esse é o verdadeiro problema. Confie no seu instinto.

Eu discordei. Não porque estivesse errada, mas porque tinha apenas metade da razão quanto à solução. A maior parte do feedback não é boa, seja dada por uma IA ou por uma pessoa. O nosso próprio instinto falha da mesma forma. E uma resposta confiante e bem estruturada, do tipo que a IA produz tão bem e que as pessoas dão constantemente, é a coisa mais fácil de aceitar e a mais difícil de questionar. 

Ter confiança não é o mesmo que ter razão. Soar como alguém que sabe do que está a falar não é o mesmo que saber do que está a falar. Aprendi da pior maneira quanto isso pode custar.

O custo da confiança

Há alguns anos, era responsável pela UX da equipa por detrás do Shopify Capital, o produto que oferece adiantamentos em dinheiro aos comerciantes com base nas vendas das suas lojas. Quando um comerciante aceitava uma proposta, o dinheiro demorava até sete dias a passar pelas aprovações internas. Para uma pequena empresa que aguardava para reabastecer o stock ou iniciar uma atividade, essa semana era longa.

O sistema por detrás dessas aprovações era um MVP inicial no qual ninguém mexia há anos. Por isso, reuni as pessoas certas numa sala para resolver o problema: a equipa financeira, as pessoas responsáveis pelas aprovações e os programadores e designers que tinham criado o sistema original.

O obstáculo acabou por ser um conjunto de passos de aprovação manuais. Analisámos exatamente como os responsáveis pelas aprovações tomavam cada decisão e se um sistema poderia tomar essas decisões em vez deles. Tínhamos uma solução ao fim de uma hora. Poderíamos tê-la implementado no dia seguinte.

Uma aprovação estava no caminho. A aprovação final pertencia a um líder de produto, muito distante de salas como a nossa. A resposta chegou clara, específica e categórica: tinha de continuar a ser manual. Essa decisão tinha sido tomada anos antes. Ninguém nos conseguia dizer porquê. Não havia nada rastreável que a sustentasse. Não pudemos implementá-la.

Por isso, fizemos o que a maioria das equipas faz. Aceitámos a resposta confiante. Depois passámos três semanas a provar que estava errada. Vinte reuniões, entrevistas com todas as pessoas que realmente contactavam com o sistema e um mapa do que estava realmente a acontecer nos bastidores. 

No fim, implementámos exatamente a solução que tínhamos encontrado na primeira hora. O feedback do interveniente tinha sido autoritário, bem estruturado e completamente errado. Identificava um problema que não existia.

É desse fracasso que este artigo trata. Não da IA. Nem dos seres humanos. Trata-se de informação confiante que ninguém submeteu a uma análise crítica antes de agir com base nela.

A segunda opinião que deixou de pedir

Quando uma decisão é importante e algo não parece certo, não confia na primeira resposta confiante. Pergunta à pessoa que realmente saberia responder. Reúne duas ou três pessoas numa sala e observa onde discordam. Pensa no assunto. Apresenta-o a alguém cujo discernimento respeita antes de se comprometer. Ninguém lhe ensinou isto e ninguém lhe chama nada. É simplesmente o que as pessoas cuidadosas fazem.

Esse instinto é verdadeiro discernimento. E um bom discernimento precisa da perspetiva de mais do que um par de olhos sobre o problema, bem como de todas as consequências e compromissos claramente expostos, antes de qualquer implementação. É para isso que as equipas pequenas são feitas: estão suficientemente próximas para pensarem em voz alta em conjunto e são suficientemente pequenas para o fazerem de facto.

Mas a perspetiva não surge automaticamente. Precisa de tempo, proximidade e espaço para respirar. A IA trabalha contra as três coisas.

E precisa daquilo que mais ignoramos: estrutura. A estrutura parece lenta e, perante a velocidade e o fascínio da IA, a lentidão é a única coisa que ninguém quer ser.

A IA produz respostas confiantes mais depressa do que consegue submetê-las a uma análise crítica, e a tentação é aceitar a resposta e continuar.

E cedemos-lhe de propósito, porque a promessa é sedutora. Toda a gente conhece essa sensação: sentirmo-nos atraídos por algo que não é propriamente do nosso interesse e avançarmos na mesma.

Toleramos aquilo em que a IA se engana hoje pelo que poderá vir a ser amanhã, e confiamos nas pessoas que a estão a desenvolver para colmatar as lacunas. Nada disso é insensato. É humano. É também precisamente aquilo que nos faz deixar de testar rigorosamente.

A Microsoft e a Carnegie Mellon estudaram o que acontece a seguir. Descobriram que, quanto mais confiança as pessoas depositam na IA, menos pensamento crítico aplicam, e que o próprio trabalho passa da execução da tarefa para a supervisão da IA que a executa. A supervisão só nos protege se continuarmos realmente a verificar. A maioria das pessoas deixa de o fazer.

Por isso, o hábito informal que o protegia não falha de forma ruidosa. Simplesmente deixa de acompanhar o crescimento. Precisamente quando o volume de decisões aumenta, a disciplina que tornava essas decisões boas torna-se mais frágil.

Pedir opiniões não é uma disciplina

Por isso, a solução não é confiar menos na IA e mais no seu instinto. A solução é a estrutura. Mas pedir opiniões não é o mesmo que ter uma disciplina para o fazer, e essa diferença é a solução.

Pedir opiniões é aquilo que a maioria das equipas já faz. Algo parece estranho, por isso chama-se quem estiver por perto. Lança-se o assunto numa reunião. Espera-se que a pessoa que realmente sabe esteja presente e que, por acaso, o diga. Às vezes está. Na maior parte das vezes é uma questão de sorte, e não é possível distinguir os dias de sorte dos restantes até ser demasiado tarde.

Pedir opiniões é dispendioso. Organizam-se reuniões, as agendas estão cheias e, quando o grupo finalmente consegue reunir-se, o momento já passou ou a decisão foi tomada sem essas pessoas. Por isso, as reuniões começam a parecer um imposto, e paga-se esse imposto com menos frequência.

Em vez disso, as perspetivas dispersam-se: uma apresentação aqui, um e-mail ali, uma conversa no Slack que ninguém lê a tempo. Toda a gente adora a comunicação assíncrona pelo tempo que parece devolver, mas isso significa que as perspetivas nunca chegam realmente a encontrar-se.

A comunicação assíncrona funciona até ao momento em que duas perspetivas se contradizem. É precisamente aí que é necessária uma troca real em tempo real: uma pessoa diz que não é assim que funciona, outra contrapõe até se chegar ao que é verdade. A comunicação assíncrona não consegue fazer isso.

A contradição que demoraria cinco minutos numa sala prolonga-se por dias de respostas. Resolver uma contradição, eliminar um pressuposto, compreender por que razão algo deve funcionar de determinada forma: é isso que deixa de custar minutos e começa a custar semanas.

Uma disciplina resolve tudo isto. Não me refiro à força de vontade. Refiro-me a uma forma repetível de conduzir uma decisão. Decide, deliberadamente, por que perspetivas tem de passar antes de ser implementada. Não por quem calha estar presente, mas pelas poucas pessoas que realmente importam para aquela decisão. A decisão é apresentada deliberadamente a cada uma delas, uma vez, prestando atenção ao que cada uma tende a não detetar. Isso é estrutura. É integrar deliberadamente as perspetivas certas, em vez de andar atrás delas, uma reunião de cada vez.

Porque é que isso importa mais do que parece? Porque saber como algo funciona não é o mesmo que compreender por que funciona da forma como funciona, e é nessa lacuna que se escondem os piores erros.

Richard Rumelt, autor de "Boa estratégia, má estratégia", chama ao primeiro passo verdadeiramente importante diagnóstico: perceber o que está realmente a acontecer antes de decidir. Um bom diagnóstico identifica o problema real, não o sintoma. "Estamos a ter um desempenho abaixo do esperado" não é um diagnóstico, é um resultado. O diagnóstico é a razão subjacente, e indica quais são as poucas coisas críticas e quais devem ser ignoradas.

É aqui que uma sala cheia de perspetivas diferentes demonstra o seu valor. O problema parece diferente consoante a pessoa que o está a analisar.

O responsável pelo orçamento, a pessoa que o elabora e o cliente transportam, cada um, uma versão diferente e precisam de algo diferente daquilo que for decidido. Por isso, resolver o problema certo não é uma coisa única. É encontrar a única solução que responde simultaneamente a um número suficiente dessas necessidades diferentes, à medida que eleva a fasquia para todos, não apenas para um deles.

Não se encontra isso sozinho nem à distância. Encontra-se quando as perspetivas estão reunidas e a sua discordância revela a verdadeira forma do problema.

É possível ver até que ponto queremos essas outras perspetivas na forma como falamos com a IA. "Age como um redator." "Age como um especialista de marketing." Cada pedido é uma admissão de que uma só pessoa consegue abarcar apenas alguns pontos de vista, e nós sabemos disso. Estamos a pedir-lhe que substitua aqueles que nos faltam.

É precisamente neste vazio que a IA existe. Um modelo só tem aquilo que cabe na sua janela de contexto, a parte limitada da sua situação que foi carregada para dentro dele.

Não consegue ver o que lhe falta, nem consegue ponderar uma perspetiva em relação a outra. Não está propriamente a sustentar uma perspetiva. Funciona com base na probabilidade, prevendo o que é mais provável que aconteça a seguir, sem nada em jogo caso esteja errado. Por isso, diz-lhe algo convincente.

Aquelas três semanas que a minha equipa passou a tentar perceber o que se passava? Isso foi diagnóstico. Foi compreender o porquê. A IA continuará a melhorar as respostas. Mas uma resposta melhor continua a não ser compreensão. A compreensão veio de pessoas reais, cada uma a ver o problema de forma diferente, cada uma com algo em jogo no resultado. Um modelo não pode substituir essas pessoas, por muito bom que se torne. Essa parte cabe-lhe a si e à sua equipa.

Quando todos concordam, falta alguém

A preocupação aqui é estar a descrever mais reuniões, mais pessoas, mais processos. Não estou.

Uma disciplina não consiste em pôr toda a gente na sala. Sempre pensei que o objetivo é ter o menor número de pessoas que, em conjunto, ainda consigam ver o problema completo. Cada uma cobre uma parte que as outras não conseguem cobrir, por isso algumas pessoas que pensam de forma diferente abrangem mais terreno do que uma multidão que pensa da mesma maneira. É aí que está a vantagem: na diferença entre elas, não na quantidade.

Não precisa de um organograma para isto. Pergunta, para esta decisão específica, quem vê uma parte dela que você não vê. A maioria das decisões toca em alguma combinação das mesmas áreas: o dinheiro, o cliente, a pessoa que tem de construir a solução, a pessoa que tem de a vender e a pessoa que será culpabilizada se algo correr mal.

Nem todas as decisões precisam de todas essas pessoas. Uma nova contratação depende sobretudo das pessoas com quem essa pessoa irá interagir diariamente e de quem controla o orçamento. Uma alteração à forma como a equipa trabalha depende das pessoas que têm efetivamente de a pôr em prática e das pessoas para quem deveria criar valor, que muitas vezes não estão na sala quando a decisão é tomada.

Atualmente, é isto que ocupa a maior parte da atenção das equipas: novo software, mais pessoas, IA integrada em todas as partes do trabalho, e grande parte disso chega de cima para baixo. A competência consiste em identificar as duas ou três perspetivas das quais depende uma decisão, não em reunir um quórum.

A competência mais difícil é perceber quando uma dessas perspetivas não está na sala. E o sinal é o oposto do que seria de esperar. É a concordância.

Quando uma decisão se forma de forma demasiado simples, quando todos acenam com a cabeça e ninguém se sente desconfortável, isso normalmente não é consenso. É uma perspetiva em falta. A pessoa que teria contestado não está presente. O argumento que teria revelado a lacuna nunca surge, por isso a decisão parece concluída quando, na verdade, apenas não foi contestada.

Quando identifica a lacuna, tem duas opções honestas. Ir buscar a perspetiva em falta antes de se comprometer, mesmo que isso lhe custe um dia. Ou, se realmente não conseguir, dizê-lo em voz alta: ninguém aqui representa o cliente, por isso estamos a fazer uma suposição nessa parte.

Uma lacuna identificada é um risco que pode gerir. Uma lacuna não identificada é a resposta confiante e bem estruturada que acaba por estar errada.

É também por isso que a maioria das equipas já mantém a IA sob controlo apertado. Num inquérito recente da Harvard Business Review, apenas 6% das empresas afirmaram confiar plenamente nos agentes de IA para executarem autonomamente um processo central, enquanto 43% lhes confiarão tarefas rotineiras e nada mais.

Esse instinto está certo. A IA deve estar na periferia do trabalho, na execução, não no centro da decisão. Mas é importante ter clareza sobre aquilo que ela é. A IA está agora na sala, a ouvir, a transcrever e a escrever o resumo enquanto fala. Isso não é o mesmo que ter algo em jogo naquilo que é decidido.

Se alguma vez leu um desses resumos comparando-o com aquilo que foi realmente dito, sabe o resto. Falha coisas, preenche o que não captou e fala disso com segurança, sem nunca verificar o próprio trabalho. Pode registar o que acontece na sala. Não pode defender uma posição dentro dela.

Uma versão que pode pôr em prática na segunda-feira

Nada disto exige uma ferramenta nova, uma contratação nova ou uma nova camada de processos. Esse é precisamente o objetivo.

A disciplina que as empresas maiores tentam comprar com software e mais pessoas é algo que uma equipa pequena pode simplesmente fazer, porque já tem as duas coisas necessárias: as pessoas certas e a capacidade de as reunir numa sala.

Eis a versão simples.

Antes de ser tomada uma decisão que realmente importa, nomeie-a numa frase e identifique as perspetivas de que precisa. Depois, reúna essas pessoas, as pessoas certas, na mesma sala ou na mesma chamada durante quinze minutos. Não é uma reunião recorrente. Não é um comité. É uma breve análise deliberada, feita de propósito para esta decisão.

Nessa conversa, façam do desacordo a vossa tarefa. Não perguntem se todos concordam. Perguntem a cada pessoa o que é que esta decisão está a interpretar mal, tendo em conta a sua perspetiva. Não estão a recolher aprovações. Estão à procura da única objeção que altera a resposta. E, se tudo se encaixar com demasiada facilidade, lembrem-se do que isso normalmente significa. Falta na sala alguém que deveria estar presente.

Quando a IA fizer parte do processo, e vai fazer, mantenham-na do lado certo da linha. Deixem-na criar um rascunho, resumir e apresentar uma perspetiva que possam ter ignorado. Depois, coloquem a resposta na sala e testem-na rigorosamente, tal como fariam com a resposta de qualquer outra pessoa.

Tratem-na como um rascunho a verificar, nunca como um veredicto a aceitar. Não tem direito de voto. É sujeita a revisão. E, quando estão apenas vocês e a IA, toda a responsabilidade pela chamada é vossa. Ela pode assumir o trabalho, mas não o peso.

Esse é todo o padrão. Nomeiem a decisão, nomeiem as perspetivas, reúnam as pessoas certas em tempo real, façam-nas discordar e mantenham o processo do lado da execução. Custa-vos quinze minutos.

A alternativa custa-vos três semanas e uma resposta confiante que acabou por assentar numa suposição errada. Um palpite que ninguém testou. Uma inferência tratada como facto. Quando vem da IA, chamamos-lhe uma alucinação. Quando vem de uma pessoa, chamamos-lhe simplesmente confiança.

A lacuna que as pequenas equipas estão preparadas para colmatar

Recuemos por um instante. As pessoas e a IA cometem erros, e uma equipa consegue sobreviver a isso. O que não consegue suportar é a versão mais dispendiosa do problema: a perspetiva que mais importa fica de fora.

As pessoas que têm de criar valor e as pessoas a quem esse valor se destina raramente estão na mesma sala quando a decisão é tomada.

Numa grande empresa, esse é o estado normal das coisas. A pessoa com autoridade para decidir está normalmente mais distante do local onde o valor é realmente criado e é também a mais ocupada, a última pessoa que consegue dispensar quinze minutos para se sentar numa sala. Assim, a decisão é tomada à distância, com base num resumo, por alguém que não esteve presente no desacordo que teria alterado a resposta.

Esta é a lacuna que os CFO continuam a reportar sem conseguirem explicar. Num estudo recente da empresa de consultoria RGP, 66% dos CFO afirmaram esperar retornos significativos da IA no prazo de dois anos. Apenas 14% disseram estar a ver valor significativo atualmente.

A reação imediata é interpretar isto como um problema de ferramentas, algo que um modelo melhor ou outra plataforma irá resolver. Não irá. A lacuna nunca esteve nas ferramentas. Está na qualidade das decisões que as ferramentas estão a alimentar.

Eis por que razão uma equipa pequena é quem consegue colmatá-la. O atrito que derrota uma grande empresa — todas as camadas, agendas e coordenação — na sua maioria, não é um problema vosso.

As pessoas que chamariam para participar já se conhecem, já confiam umas nas outras e conseguem discordar intensamente e ainda assim ir almoçar juntas depois. Não estão a encaminhar uma decisão através de desconhecidos num organograma. Estão a recorrer a três pessoas com quem trabalham todos os dias.

A disciplina que uma grande empresa está a gastar milhões a tentar reconstruir é algo que podem fazer esta tarde, porque a distância contra a qual está a lutar nunca existiu para vocês.

Vivi isto uma vez numa pequena agência. Estávamos a perder dinheiro na maioria dos nossos maiores projetos. A solução não foi uma ferramenta nem uma nova contratação. Foi reunir na mesma sala todas as pessoas que participavam no trabalho, desde a elaboração de estimativas e a definição de preços até ao agendamento e à entrega. Não foi uma única reunião, mas sim fazê-lo repetidamente, ultrapassando os sintomas para perceber o que estava realmente a acontecer.

Aumentámos a margem líquida em 33%. O fator decisivo foi transformar em hábito o diálogo conjunto sobre problemas e soluções. O que fez tudo funcionar foi darmos o nosso contributo para trabalhos que não eram nossos, fôssemos especialistas ou não. É daí que vem grande parte da inovação e é precisamente isso que continuamos a esperar que a IA nos proporcione.

E é esse o trabalho que tenho feito desde então: ajudar equipas a resolverem em conjunto problemas demasiado grandes para serem resolvidos por uma só pessoa.

A parte difícil nunca foi encontrar as pessoas certas. É conseguir que estejam na mesma sala, ao mesmo tempo, a discutir e a desenvolver ideias em conjunto. Todas as ferramentas prometem substituí-lo, e nenhuma consegue fazê-lo. Coloquem frente a frente, em tempo real, duas pessoas que veem as coisas de forma diferente, e o verdadeiro problema virá ao de cima. O resto é logística.

A IA não tem perspetiva. Não tem opinião. Não sente nada. Para um conjunto restrito de decisões, esse distanciamento é precisamente o que se pretende, e é aí que a devem utilizar. Mas a maior parte do que fazemos, fazemos para construir coisas e resolver problemas para outros seres humanos, ao lado de outros seres humanos que se importam com o resultado.

É esse cuidado que leva alguém a contestar, a manter-se no desconforto e a detetar aquilo que todos os outros não perceberam.

Essas perspetivas são a única parte do trabalho de que nunca devem abdicar. E, se forem uma equipa pequena, não têm de o fazer. Elas já estão sentadas à vossa mesa. A IA pode ajudar-vos a fazer o trabalho. A parte que é verdadeiramente vossa, essa podem mantê-la.