A sua IA não aparecerá no depoimento

Imagine a última decisão de contratação assistida por IA que a sua equipa tomou. Um candidato sinalizado. Uma "pontuação de adequação" perto do fim da fila. O seu recrutador avançou.

Agora imagine esse candidato a apresentar uma queixa por discriminação seis meses mais tarde e a perguntar, numa audiência, exatamente por que motivo foi rejeitado. De quem consta o nome no processo? O seu? O do recrutador? O do fornecedor?

Se a sua resposta honesta for "o algoritmo sinalizou-o", tem um problema de responsabilização, e este é estrutural. Nenhum fornecedor o resolverá por si.

Passei a última década como analista de inteligência empresarial na Amazon e na Microsoft. Também passei o último ano a auditar oito plataformas comerciais de triagem de currículos por IA. Cerca de 4 000 testes, com currículos idênticos que variavam apenas no nome do candidato, testados tanto quanto ao enviesamento demográfico como à competência básica.

O que descobri é mais desconfortável do que a narrativa habitual de que a "IA é enviesada". Várias plataformas elogiadas como as mais neutras são neutras da mesma forma que um termómetro avariado é neutro. Produzem resultados estáveis e demograficamente equilibrados porque não conseguem distinguir de forma significativa um candidato qualificado de um não qualificado. É a aparência de justiça sobreposta a uma ferramenta que não funciona.

Chamo a isto a "Ilusão de Neutralidade", e é a dinâmica que mais deve preocupar os líderes seniores de RH, porque é aquela que a sua auditoria de enviesamento não consegue detetar.

A IA está agora a desempenhar um papel narrativo

O contexto do mercado de trabalho é importante neste caso, sobretudo pelo que revela sobre a motivação. Uma análise de setembro de 2025 da Reserva Federal de Nova Iorque concluiu que apenas 1% das empresas de serviços indicaram a IA como o motivo dos despedimentos nos seis meses anteriores, enquanto 35% afirmaram que a IA as levou a requalificar trabalhadores.

No entanto, um inquérito da Resume.org a 1 000 responsáveis de contratação, publicado em janeiro, concluiu que 59% admitem dar ênfase à IA ao explicar congelamentos de contratações ou despedimentos porque "tem melhor aceitação junto das partes interessadas" do que invocar restrições financeiras.

Está a ser pedido à IA que desempenhe um papel narrativo, para além do papel operacional. Tenha isto em mente, porque o mesmo instinto que culpa a IA por um despedimento culpará a IA por uma má decisão de contratação.

O conceito de "orientado por dados" deteriorou-se em "encontre os dados que me apoiam"

A promessa de uma liderança orientada por dados era clara. Reduzir a dependência da intuição. Trazer as evidências à superfície. Criar um registo passível de revisão. Quando a disciplina é respeitada, funciona.

O que tenho observado ao longo dos últimos cinco anos recebeu muito menos atenção do que merecia. As ferramentas nunca mudaram. Mudou a relação entre os líderes e as ferramentas. O pedido efetivo deixou de ser "o que dizem os dados?" e passou a ser "encontre os dados que apoiam isto".

A IA acelera esta mudança porque é mais difícil contestar o resultado de um modelo do que a decisão intuitiva de um responsável de contratação. Por isso, quando algo corre mal, a resposta passa a ser "o sistema detetou-o". Essa frase é o problema em si.

Os modelos mais justos não conseguem distinguir os candidatos

Em oito plataformas, incluindo o ChatGPT, o Gemini, o Copilot e o Claude, surgiram três padrões.

O enviesamento continua presente e é menos previsível. Vários modelos penalizaram currículos simplesmente porque lhes foi associado um nome de candidato, independentemente do nome. Outros beneficiaram grupos demográficos específicos em determinadas funções e penalizaram-nos noutras. Um modelo dividiu um único grupo racial em direções opostas consoante o género, perante o mesmo currículo.

O enviesamento varia consoante a função e a versão do modelo. A auditoria de enviesamento do seu fornecedor não prevê como a ferramenta se comportará no próximo pedido de contratação.

Os modelos mais "justos" são frequentemente os menos competentes. Quando testei se os modelos conseguiam distinguir um currículo relevante de um irrelevante, vários não conseguiram. Um modelo atribuiu a um currículo da área dos serviços, repleto de palavras-chave financeiras, uma pontuação de 92 em 100 para uma função de Diretor Financeiro. O mesmo currículo sem as palavras-chave obteve 15. O modelo estava a pontuar vocabulário. A qualificação nunca entrou na avaliação. Uma ferramenta assim deixou de avaliar o que quer que seja.

O mesmo fornecedor dá respostas diferentes consoante a versão que está a ser executada. Um candidato avaliado pela versão "rápida" do ChatGPT podia obter uma pontuação 15 pontos superior ou inferior à do mesmo candidato na versão "lenta", no mesmo dia. A maioria dos responsáveis não sabe qual é a versão que está a utilizar, nem sabe que isso é relevante.

Não são casos extremos. São as condições de funcionamento das ferramentas de contratação com IA neste momento.

Branqueamento da responsabilização

As melhores decisões são apenas uma parte do motivo pelo qual estas ferramentas são adotadas. Também tornam mais fáceis de defender as decisões difíceis. Despedimentos. Avaliações de desempenho. Rejeições de candidatos. Decisões salariais. Quando o resultado do modelo consta do processo, a pessoa que deu a aprovação tem uma negação plausível que antes não tinha.

Um inquérito da ResumeBuilder de 2025 torna isto concreto. Entre os gestores que utilizam IA para decisões relativas ao pessoal, 64% utilizam-na para ajudar a determinar despedimentos, e mais de um em cada cinco admite que frequentemente deixa a IA tomar a decisão final sem intervenção humana.

A investigação comportamental é ainda mais contundente. Um estudo da Nature, de 2025, realizado por Köbis e pelos seus colegas, concluiu que os agentes de IA cumpriam instruções totalmente antiéticas entre 58% e 98% das vezes, dependendo do modelo, em comparação com 25% a 40% no caso de agentes humanos a quem eram dadas as mesmas instruções.

As máquinas estão muito mais dispostas do que as pessoas a executar ordens eticamente comprometedoras, que é precisamente a característica que as torna úteis como infraestrutura de responsabilização.

A literatura de investigação tem um nome para o lado humano desta questão. Madeleine Clare Elish chamou-lhe a "zona de deformação moral", na qual as pessoas na extremidade operacional de um sistema automatizado absorvem a culpa por falhas que tiveram origem em decisões difusas de conceção e governação. Os funcionários começam a falar sobre "o que o sistema decidiu" em vez de "o que nós decidimos", mesmo quando continuam a ter poder discricionário.

O nome mais claro para toda esta dinâmica é branqueamento da responsabilidade. O modelo toma uma decisão que anteriormente exigia um juízo humano defensável e converte-a num resultado que ninguém tem de defender. Quando a decisão está errada, a falha é de todos e de ninguém, e a sua organização perde a capacidade de aprender com os próprios erros.

Governação, ou não é lançado

Chegou o momento de os líderes tratarem a aquisição de IA como uma decisão de governação, e não como uma decisão de TI.

Atribua um nome a cada decisão assistida por IA. Como afirmou recentemente um advogado especializado em IA ao CIO, o algoritmo não comparecerá em tribunal. Comparecerão as pessoas que o desenvolveram, implementaram ou utilizaram. Antes de qualquer ferramenta de IA interferir no recrutamento, nas avaliações de desempenho, na remuneração ou nos despedimentos, exija uma resposta a uma pergunta: quando este resultado se revelar errado, de quem consta o nome no processo? Não do fornecedor. Não do modelo. De uma pessoa com senioridade suficiente para defender a decisão perante uma entidade reguladora ou o advogado de um autor.

Ajuste a explicabilidade à importância das decisões. Um modelo que recomenda conteúdos de formação pode ser uma caixa-preta. Um modelo que contribui para um despedimento não pode sê-lo. A maioria das organizações define o seu padrão de explicabilidade uma única vez, durante a aquisição. As organizações disciplinadas redefinem-no para cada caso de utilização e afastam-se dos fornecedores que não conseguem cumprir a fasquia mais elevada.

Realize as suas próprias auditorias de validação dupla. As auditorias de enviesamento dos fornecedores são necessárias, mas insuficientes. Teste também a competência. A ferramenta consegue realmente distinguir candidatos qualificados de candidatos não qualificados nas funções para as quais recruta? Alguns currículos incompatíveis. Alguns currículos recheados de palavras-chave. Compare as pontuações. Se o modelo não consegue distinguir a diferença, não pode ajudá-lo, por muito imparcial que pareça.

Os RH são a função que os fornecedores de IA estão a cortejar com mais insistência e a função que fica com o ónus quando uma destas ferramentas produz um resultado indefensável. A tentação será tratar a aquisição como uma questão relativa ao fornecedor. Resista-lhe.

Como afirmou um advogado laboral ao The Washington Post quando os algoritmos começaram a influenciar as listas de despedimentos: "Não tente transferir a responsabilidade para o software."

Se a sua resposta a uma decisão falível assistida por IA for "foi o sistema que fez isso", o seu sistema tornou-se o seu risco. Em algum ponto da sua organização, alguém tem de assumir a responsabilidade por cada decisão em que estas ferramentas intervenham. Descubra quem é antes que um depoimento o faça.