O paradoxo do feedback de desempenho: quando a IA funciona melhor em segredo

Os melhores sistemas de feedback sobre o desempenho funcionam como um truque de magia num certo sentido: são mais eficazes quando não sabemos como o truque é feito.

Um estudo de 2021 publicado na Strategic Management Journal concluiu que o feedback gerado por IA melhora o desempenho dos colaboradores mais do que o feedback dos gestores humanos. O problema? Só funcionava se os colaboradores pensassem que tinha sido escrito por uma pessoa. Quando o método é revelado, a magia desaparece.

O feedback era mais consistente, mais personalizado e objetivamente mais eficaz na melhoria do desempenho, mas, assim que os trabalhadores descobriram que os algoritmos tinham gerado as suas análises de desempenho, os ganhos desapareceram.

O mesmo feedback que melhorava os resultados quando atribuído a um gestor humano provocava resistência, menor envolvimento e pior desempenho quando os colaboradores conheciam a sua verdadeira origem. Os investigadores deram a este fenómeno o nome de "efeito da divulgação", uma queda mensurável no desempenho causada exclusivamente pelo conhecimento de que a IA esteve envolvida.

A IA na gestão do desempenho é atualmente cada vez mais comum, tal como é cada vez mais comum a integração da IA noutras áreas da vida, dada a utilização generalizada de ferramentas de IA como o ChatGPT, o Claude e o Gemini. Mas o simples facto de a utilização ter aumentado não significa que a confiança tenha aumentado com ela.

Para os responsáveis de RH que estão a gerir a adoção da IA, o paradoxo descoberto por aqueles investigadores em 2021 cria uma situação impossível. Implementar sistemas de feedback baseados em IA de forma transparente e sacrificar os ganhos de desempenho. Ocultar o envolvimento da IA e arriscar violações catastróficas da confiança quando a verdade inevitavelmente vier ao de cima.

A decisão revela algo fundamental sobre aquilo que as organizações procuram otimizar. São os resultados deste trimestre ou a capacidade de transformação a longo prazo?

O contexto da crise de confiança

O efeito da divulgação não está a acontecer num vazio. Uma investigação recente da SHL mostra que apenas 27% dos trabalhadores confiam plenamente que os seus empregadores utilizem a IA de forma responsável nas decisões de RH. Mais preocupante ainda, 59% acreditam que a IA está a agravar, e não a melhorar, a discriminação no local de trabalho.

Isto torna o paradoxo ainda mais evidente. A tecnologia que poderia proporcionar um feedback melhor e menos tendencioso é alvo de desconfiança por parte da maioria dos colaboradores que o receberiam. E a investigação sugere que essa desconfiança se torna autorrealizável. Saber que a IA está envolvida faz com que tenham um desempenho pior, independentemente de o feedback ser objetivamente superior.

O Dr. Ryne Sherman, Diretor de Ciência da Hogan Assessments, que trabalha com mais de 75% das empresas da Fortune 500, identifica duas forças que impulsionam a resistência dos colaboradores.

O segundo fator é ainda mais profundo. Não se trata de saber se a IA consegue avaliar o desempenho com precisão, mas sim do que a escolha de utilizar IA transmite sobre a forma como uma organização vê as suas pessoas.

"A falta de intervenção humana faz com que os trabalhadores sintam que estão simplesmente a ser processados como recursos humanos no sentido literal, sem empatia ou preocupação com o seu bem-estar enquanto seres humanos", afirma Sherman. "A nossa investigação mostra que os líderes mais eficazes demonstram uma preocupação genuína com os seus colaboradores. Utilizar a IA para realizar avaliações de desempenho sugere que os líderes da organização não se preocupam verdadeiramente com os seus colaboradores."

O facto de estas suposições serem precisas ou não é menos importante do que o facto de existirem. A perceção dos colaboradores molda o comportamento, e o comportamento molda o desempenho.

Porque é que o engano não funciona

As organizações que esperam obter os benefícios da IA no desempenho evitando simultaneamente o efeito da divulgação enfrentam um problema prático: os colaboradores já sabem.

Edie Goldberg, psicóloga industrial e organizacional e autora do próximo livro Capacitação do desempenho, aponta os sinais reveladores que denunciam o feedback gerado por IA.

Os padrões estilísticos do texto gerado por IA tornaram-se suficientemente reconhecíveis, pelo que tentar ocultar o seu envolvimento pode ser inútil. Mesmo quando as organizações não divulgam explicitamente a utilização de IA, os funcionários detetam as marcas digitais do algoritmo.

Isto põe em causa toda a estratégia de ocultação. Se os funcionários suspeitarem do envolvimento da IA, mas não forem informados diretamente, as organizações ficam com o pior dos dois mundos: a quebra de desempenho resultante da perceção de utilização de IA, combinada com a violação da confiança causada pela tentativa de engano.

A abordagem recomendada por Goldberg contorna inteiramente este paradoxo.

Rascunhar, Rever, Reformular

“Recomendo que os gestores utilizem a IA para um primeiro rascunho, mas que depois o revejam, reformulem e acrescentem mais especificidade,” explica. Isto posiciona a IA como uma ferramenta visível que ajuda os gestores, em vez de uma substituta oculta.”

A distinção é importante. A IA pode integrar feedback de várias perspetivas, como colegas, clientes e plataformas de comunicação internas, e combiná-lo com dados concretos provenientes de sistemas internos.

"Todos estes fatores tornam o feedback inerentemente mais justo, porque não representa apenas a perspetiva de uma pessoa", afirma Goldberg, referindo-se à extensa investigação sobre o enviesamento dos gestores nas avaliações de desempenho.

Mas a vantagem em termos de justiça só se concretiza se os funcionários confiarem no processo. Goldberg apresenta isto como um problema de divisão de responsabilidades, e não como um problema de transparência. Utilize a IA para a agregação e deteção de padrões, áreas em que se destaca. Mantenha os seres humanos responsáveis pelo contexto, pela especificidade e pelos aspetos relacionais de que os funcionários precisam para acreditar que o feedback é genuíno.

No fim, a solução não passa por ocultar o papel da IA, mas por redefini-lo.

A posição que coloca a transparência em primeiro lugar

Kate O'Neil, CEO da plataforma de gestão do desempenho Opre, baseou todo o seu produto na rejeição da abordagem de ocultação da IA. Todo o feedback que os utilizadores da Opre recebem é claramente identificado como gerado por IA, e nem os gestores nem os funcionários podem manipulá-lo para que pareça ter sido escrito por uma pessoa.

A filosofia de design da Opre centra-se no que O'Neil chama uma dinâmica "gestor e funcionário vs. Opre". O sistema envia informações sobre o desempenho a ambas as partes em simultâneo, criando um ponto de referência partilhado para a discussão, em vez de um julgamento hierárquico.

Na sua próxima reunião individual, o gestor e o funcionário discutem aquilo que a Opre acertou, aquilo que não detetou e aquilo que poderá estar a interpretar mal relativamente ao contexto.

"Isto substitui a dinâmica muito menos produtiva que vemos frequentemente nos dias de hoje: gestor vs. funcionário, sobretudo quando o desempenho é baixo ou se evitam conversas sobre o desempenho", explica O'Neil.

Mas O'Neil reconhece que não dispõe de dados comparativos. "Não sei se o facto de os funcionários saberem que era gerado por IA teve algum impacto, porque não tenho uma população de funcionários que não soubesse que era gerado por IA para poder compará-la."

Quando questionada sobre se está a deixar ganhos de desempenho por alcançar ao dar prioridade à transparência, O'Neil não hesita.

Não penso que saber que é gerado por IA destrua a eficácia. Penso que a ilusão de que o feedback é genuíno quando não o é destrói a confiança e os contratos sociais entre os gestores e as suas equipas. Uma confiança destruída destrói o desempenho.

Ela vai mais longe na questão do enviesamento. Mesmo que o feedback gerado por IA reduza objetivamente o enviesamento a curto prazo, ocultar a sua origem cria um problema de confiança que, em última análise, aumenta o enviesamento ao longo do tempo.

"Se o conteúdo gerado por IA reduzir efetivamente o enviesamento, mas os trabalhadores perceberem que o aumenta, o impacto a longo prazo será a degradação da confiança", explica O'Neil. "Os gestores que apresentam o feedback gerado por IA como se fosse seu degradam a confiança entre si e as suas equipas, o que conduz a um aumento do enviesamento mais tarde."

É por isso que o sistema da Opre impede os gestores de editar ou suavizar os conhecimentos gerados pela IA. Tanto o gestor como o trabalhador recebem feedback idêntico em simultâneo, eliminando a possibilidade de engano. Gestores e trabalhadores podem acrescentar contexto ou pedir esclarecimentos ao sistema, mas não podem modificar aquilo que este produz.

A sua posição assenta também num cálculo relativo aos horizontes temporais. As organizações podem otimizar as métricas de desempenho imediato ou a capacidade de se transformarem ao longo dos anos. Na sua perspetiva, os dois objetivos são incompatíveis quando se trata da implementação de IA.

"A opacidade não é uma estratégia de desempenho", afirma. "É uma estratégia de extração a curto prazo. Pode conseguir um surto de esforço enquanto os trabalhadores tentam perceber as regras. Mas, pouco depois, perde as suas melhores pessoas, esgota as restantes e prejudica a sua capacidade de atrair novos talentos."

Quando a confiança se quebra

Tanto Goldberg como Sherman alertam para o facto de o engano relacionado com a utilização de IA ter consequências que ultrapassam largamente quaisquer ganhos de desempenho a curto prazo.

"É fácil quebrar a confiança e muito difícil reconstruí-la", afirma Goldberg. "Não há aqui qualquer benefício, apenas risco."

Este alerta não é apenas uma pose ética. Tanto Goldberg como Sherman trabalham em ambientes onde observam as consequências da quebra de confiança em várias organizações. A sua certeza de que o engano fracassa resulta do reconhecimento de padrões, e não de uma filosofia.

"É desastroso para as organizações adotarem práticas enganosas de avaliação de desempenho", alerta Sherman. "Em primeiro lugar, em qualquer organização de qualquer dimensão, não há qualquer esperança de que o engano não venha a ser descoberto. Todas as organizações têm fugas de informação e este tipo de informação acabará inevitavelmente por vir a público.

Na avaliação de Sherman, as consequências seriam graves.

"Quando esta informação se tornar conhecida, a confiança na organização atingirá o nível mais baixo possível", afirma. "Os trabalhadores irão protestar, despedir-se e, talvez ainda pior, ficarão completamente descomprometidos."

A sua recomendação para as organizações apanhadas numa situação deste tipo não deixa margem para dúvidas. Os trabalhadores exigirão responsabilização, o que provavelmente significará afastar os líderes seniores envolvidos no engano.

"Mesmo assim", afirma, "a organização terá de considerar seriamente transformar todo o seu processo de avaliação de desempenho num processo de transparência radical, para começar a recuperar a confiança."

O conselho de Goldberg para as organizações que se encontram nesta posição é mais simples, mas conduz à mesma conclusão.

Transparência vence

“Seja honesto. Admita o que aconteceu e explique por que motivo está a ser feito. A melhor prática atualmente é divulgar como utiliza a IA em qualquer processo de RH.”

O que a escolha revela

A decisão sobre divulgar ou não o envolvimento da IA na gestão do desempenho raramente é apresentada como uma escolha entre desempenho e confiança. É mais frequentemente apresentada como uma questão de implementação técnica ou como um desafio de gestão da mudança. Mas a investigação sugere que é, na realidade, um teste decisivo aos valores organizacionais.

As empresas que otimizam as métricas de desempenho a curto prazo têm um incentivo claro para ocultar o envolvimento da IA. O efeito da implementação é real e mensurável.

As empresas que se preparam para uma transformação a longo prazo não podem dar-se ao luxo de violar a confiança, mesmo que isso implique aceitar um desempenho imediato inferior.

Existe também uma dimensão de classe preocupante que os profissionais raramente abordam diretamente. Nas organizações que divulgam parcialmente a utilização de IA, quem tem acesso à informação? Estão os executivos a receber sistemas de IA transparentes enquanto os trabalhadores da linha da frente recebem feedback de IA oculto? A lacuna de confiança entre a liderança e os trabalhadores já é grande. A divulgação seletiva poderia destruí-la por completo.

O argumento de Sherman sobre a descoberta inevitável merece ser destacado. Numa era em que os trabalhadores fazem capturas de ecrã das comunicações internas, publicam anonimamente em sites de avaliação de empresas e organizam-se através de canais privados do Slack, é implausível pensar que o envolvimento da IA nas avaliações de desempenho possa permanecer secreto.

Acrescente-se a observação de Goldberg de que os trabalhadores já conseguem reconhecer textos gerados por IA através dos seus padrões, e a abordagem de ocultação parece menos uma estratégia e mais uma tática de adiamento.

A questão deixa de ser saber se os trabalhadores irão descobrir, passando a ser o que acontecerá quando descobrirem.

Uma aplicação diferente

Goldberg vê a verdadeira promessa da IA na gestão do desempenho a surgir de uma direção completamente diferente: feedback em tempo real, em vez de avaliações anuais ou trimestrais.

“Os sistemas de IA podem ajudar a fornecer muito feedback no momento, quando é mais benéfico”, explica. “Mas a IA pode integrar todos estes pontos de feedback ao longo de um período de avaliação de desempenho para fornecer uma imagem mais equilibrada e menos tendenciosa do desempenho individual. Este é o poder da IA na gestão do desempenho, não simplesmente escrever a avaliação.”

Isto reformula a questão da divulgação. Se a IA fornecer feedback imediato e contextualizado sobre ações específicas — assinalando quando os prazos dos projetos derrapam, registando quando os padrões de colaboração mudam, destacando quando a frequência da comunicação diminui — a origem importa menos do que a oportunidade. Os colaboradores conseguem ver a ligação direta entre as suas ações e o feedback, o que gera confiança na precisão do sistema em vez de a comprometer.

A avaliação anual de desempenho escrita pela IA continua a desencadear o efeito da divulgação porque tenta replicar o julgamento humano num contexto em que a relação e a autoridade são importantes.

O feedback em tempo real proveniente da IA funciona num registo diferente. Não está a fingir ser sabedoria humana; está a fornecer observações baseadas em dados que os seres humanos teriam dificuldade em disponibilizar em grande escala.

Não é possível determinar, com base no que consegui encontrar, se esta abordagem evita a queda de desempenho provocada pela divulgação, uma vez que ainda não foi testada em grande escala, e as perceções sobre este tema podem estar a mudar à medida que cresce a familiaridade com o funcionamento da IA. Mas isto sugere que o debate sobre ocultar ou divulgar pode estar a colocar a pergunta errada sobre a aplicação errada da tecnologia.

A questão por resolver

Para os líderes que hoje tomam decisões sobre a implementação da IA, a investigação não oferece opções confortáveis.

Os defensores da transparência — O'Neil, Goldberg, Sherman — argumentam que ocultar o envolvimento da IA garante uma catástrofe de confiança quando isso for descoberto, e que os colaboradores já conseguem detetar texto gerado por IA. É preferível criar culturas preparadas para a IA através da honestidade, mesmo que isso prejudique o desempenho a curto prazo.

O contra-argumento é mais difícil de rejeitar do que parece. Se o feedback da IA reduzir objetivamente os preconceitos, proporcionar avaliações mais consistentes e melhorar os resultados, será a transparência um luxo dispendioso que serve sobretudo para fazer com que os líderes de RH se sintam éticos?

Nenhum dos lados pode apresentar dados longitudinais que mostrem o que acontece três anos após a implementação de feedback transparente com recurso a IA. A tecnologia evoluiu demasiado depressa e as implementações são demasiado recentes. Mas a escolha revela aquilo em que os líderes acreditam relativamente à sua força de trabalho e o que estão dispostos a sacrificar para obter resultados.

As organizações que escolheram a opacidade apostaram que os ganhos de desempenho compensariam a eventual crise de confiança. As que escolheram a transparência apostam que criar culturas preparadas para a IA exige honestidade quanto ao papel da IA, mesmo quando isso prejudica o desempenho a curto prazo.

A investigação mostra o que acontece imediatamente após a divulgação. O que ainda não conseguimos responder com o mesmo grau de certeza é qual das abordagens cria organizações mais resilientes e de maior desempenho ao longo do tempo.

Por enquanto, isso continua a ser uma questão de filosofia, tolerância ao risco e do tipo de organização que os líderes estão a tentar construir.