A Deriva da IA Já Está Dentro dos Seus Sistemas de Gestão da Força de Trabalho. Eis o Que Fazer

Ninguém autorizou a alteração. A sua equipa de engenharia não implementou código novo. Mas o sistema de IA que faz recomendações de contratação para a sua organização não está hoje a fazer o que fazia quando o aprovou. 

O conjunto de candidatos mudou e o mercado de trabalho evoluiu, enquanto o modelo continuava a funcionar com base em pressupostos que ficaram desatualizados há meses. Esta é a deriva da IA e já está presente nos sistemas de gestão da força de trabalho de empresas que vão desde startups a organizações de grande dimensão, não como um risco hipotético, mas como uma condição atual.

O que é a deriva da IA?

A deriva da IA é o afastamento gradual entre a forma como um sistema de IA foi concebido para funcionar e a forma como funciona efetivamente ao longo do tempo. Para as equipas técnicas, este é um território familiar. Já estão familiarizadas com a alteração da distribuição dos dados, a deriva conceptual e a degradação dos modelos. 

Para os líderes que dirigem organizações, a definição precisa de ser mais abrangente e direta: a deriva da IA é o processo lento e cumulativo através do qual as suas ferramentas de IA deixam de fazer aquilo que pensa que fazem.

Em sistemas de gestão da força de trabalho, como plataformas de contratação, ferramentas de avaliação do desempenho, sistemas de cálculo de remunerações e algoritmos de planeamento de horários, a deriva assume formas que são muito mais relevantes para um CHRO ou CEO do que um gráfico de distribuição elaborado por um cientista de dados.

• A deriva dos resultados é a mais visível. As decisões do sistema afastam-se dos padrões de referência. As recomendações de contratação começam a favorecer determinados perfis de candidatos. As pontuações de desempenho começam a agrupar-se de forma diferente entre equipas. Os resultados do planeamento de horários mudam de formas que ninguém autorizou. Nenhuma destas alterações exige uma mudança de código. O modelo está a reagir a dados novos ou a dados antigos que já não refletem o mundo em que opera.
• A deriva da equidade é mais subtil e mais perigosa. Os resultados relativos a grupos protegidos divergem ao longo do tempo, mesmo quando o sistema passou nos testes de enviesamento no momento da implementação. Uma ferramenta de contratação que fazia uma triagem equitativa em 2022 pode já não fazer uma triagem equitativa em 2026 se o conjunto de candidatos tiver mudado, se os requisitos das funções tiverem evoluído ou se os dados subjacentes refletirem padrões para os quais o modelo nunca foi treinado.
• A deriva da autoridade de decisão é a forma que a maioria dos líderes nem sequer reconhece. O âmbito da tomada de decisões autónoma da IA expande-se silenciosamente para além do seu mandato original. Uma ferramenta implementada para classificar candidatos começa, na prática, a eliminá-los. Um sistema de pontuação do desempenho começa a influenciar decisões de remuneração que nunca foi concebido para afetar. Ninguém autorizou a expansão. Esta ocorreu gradualmente, através da integração nos fluxos de trabalho e do comportamento dos utilizadores, e ninguém a assinalou porque ninguém estava atento a esse risco.
• A deriva da governação é a diferença entre aquilo que as suas políticas dizem que a IA está a fazer e aquilo que ela está efetivamente a fazer. É aqui que se concentra a exposição jurídica. A sua política de IA responsável descreve um sistema que foi validado no momento do lançamento. O sistema que está hoje em funcionamento pode ter pouca semelhança com essa descrição. A política não sofreu uma deriva, mas o sistema sofreu.

O aspeto fundamental a compreender sobre a deriva é que não se trata tanto de um evento de falha, mas sim de um processo de degradação. Um sistema de IA que cumpria os requisitos no momento da implementação pode tornar-se um risco sem que uma única linha de código seja alterada, simplesmente porque o mundo à sua volta mudou. 

Quando os sintomas surgem sob a forma de uma queixa de discriminação, de uma constatação numa auditoria ou de um padrão de resultados que não corresponde às expectativas, a exposição já se acumulou ao longo de vários meses.

Porque é que a deriva da IA exige atenção agora

A maioria das organizações implementou IA nos sistemas de gestão da força de trabalho e depois deixou de prestar atenção. Testaram no momento do lançamento. Documentaram no momento do lançamento. Desde então, não testaram nem documentaram. Entretanto, a fiscalização acompanhou a evolução.

O cenário dos litígios

Mobley v. Workday é agora o caso de referência. Cinco autores, todos com mais de 40 anos, alegaram que as ferramentas de triagem de candidatos baseadas em IA da Workday discriminavam com base na idade. Em maio de 2025, um tribunal federal do Distrito Norte da Califórnia certificou o processo como uma ação coletiva de âmbito nacional ao abrigo da Lei contra a Discriminação Etária no Emprego. 

O alcance da decisão pode abranger todos os candidatos com mais de 40 anos submetidos a triagem através da plataforma da Workday desde setembro de 2020. A própria Workday declarou, em documentos judiciais, que 1,1 mil milhões de candidaturas foram rejeitadas utilizando as suas ferramentas durante o período relevante.

O raciocínio do tribunal foi direto. A juíza Rita Lin considerou que a Workday estava suficientemente envolvida no processo de contratação para ser tratada como um agente dos empregadores que utilizavam as suas ferramentas. 

Ao estabelecer uma distinção entre sistemas de decisão automatizados e decisores humanos, o tribunal advertiu que tal distinção esvaziaria a legislação antidiscriminação na era moderna.

Em julho de 2025, o âmbito foi alargado para incluir também as pessoas processadas através da HiredScore, uma plataforma de IA que a Workday adquiriu depois de apresentada a queixa original.

Depois surgiu a Eightfold AI. Em janeiro de 2026, uma ação coletiva alegou que a Eightfold recolheu dados sobre mais de mil milhões de trabalhadores, atribuiu aos candidatos uma pontuação numa escala de zero a cinco e rejeitou candidatos antes de qualquer pessoa ter analisado a sua candidatura, tudo isto sem as divulgações exigidas pela Lei de Informação de Crédito Justo. 

Este caso é diferente do caso Mobley de uma forma importante, na medida em que não alega parcialidade. Alega secretismo. O algoritmo existia, funcionava e excluía pessoas de oportunidades sem que ninguém fora da empresa soubesse que isso estava a acontecer. O caso foi apresentado pela antiga presidente da EEOC, Jenny R. Yang, um sinal do nível de atenção jurídica que está agora centrado na IA na força de trabalho.

Lidos em conjunto, estes casos formam uma tenaz. Mobley ataca os resultados. Eightfold ataca o processo. Ambos apontam na mesma direção: os fornecedores de IA que tomam ou influenciam materialmente decisões de emprego serão responsabilizados por essas decisões.

A pressão sobre a responsabilidade dos fornecedores

É aqui que as contas se tornam desconfortáveis para os empregadores. Estudos realizados por plataformas de tecnologia jurídica mostram que 88% dos fornecedores de IA limitam a sua própria responsabilidade, muitas vezes restringindo as indemnizações ao valor das subscrições mensais. Apenas 17% garantem a conformidade regulamentar. As cláusulas abrangentes de indemnização exigem normalmente que os clientes isentem os fornecedores de responsabilidade por resultados discriminatórios.

Isto significa que os empregadores são legalmente responsáveis por resultados que não conseguem controlar, gerados por dados que não conseguem auditar e processados através de uma lógica que não conseguem examinar. Quando surge uma ação coletiva, o acordo com o fornecedor limita a responsabilidade, exclui garantias de conformidade e restringe as auditorias algorítmicas. O empregador fica com o prejuízo.

O problema do «humano no circuito»

Ter nominalmente uma pessoa na cadeia de análise já não é uma defesa viável. 

Aaron Pease, advogado da Highbridge Law Firm que presta aconselhamento sobre governação da IA e conformidade da força de trabalho, foi direto numa apresentação recente sobre os riscos de uma força de trabalho autónoma. 

As organizações não conseguem demonstrar o que a pessoa analisou efetivamente, o que anulou ou que critérios aplicou. Os tribunais e os reguladores estão a caminhar no sentido de exigir uma supervisão documentada e demonstrável, e não uma política declarada segundo a qual alguém, algures, analisou algo antes de este avançar.

A aplicação da regulamentação está a materializar-se

A Lei da IA do Colorado, aprovada em maio de 2024, é a primeira lei estadual abrangente do país a regulamentar sistemas de IA utilizados em decisões de alto risco, incluindo decisões de emprego. A lei exige avaliações de impacto obrigatórias, programas de gestão de riscos e obrigações de divulgação, além de prever sanções de $20,000 por infração.

O seu caminho até à aplicação tem sido turbulento, uma vez que mais de 150 lobistas participaram numa sessão legislativa especial em agosto de 2025 e quatro projetos de lei concorrentes tentaram desmantelá-la ou revogá-la. Nenhum foi aprovado. A legislatura concordou apenas em adiar a aplicação para 30 de junho de 2026, mantendo intactos os requisitos substantivos da lei.

No início de 2026, a sessão legislativa do Colorado ainda não tinha chegado a acordo sobre novas alterações.

Entretanto, a Califórnia finalizou os regulamentos que regem a utilização da IA pelos empregadores em processos de discriminação, e o Illinois aprovou requisitos de divulgação relativos à IA. O padrão é consistente entre os estados: é possível adiar, mas não está a acontecer um recuo na regulamentação.

O custo de uma governação passiva

A redução contabilística de $569 milhões da Zillow, em novembro de 2021, continua a ser um dos estudos de caso mais claros sobre o que acontece quando a deriva algorítmica não é monitorizada. A plataforma de compra de casas da empresa utilizava um modelo de preços para avaliar habitações e fazer propostas de compra. À medida que as condições do mercado pós-pandemia mudaram, o algoritmo continuou a presumir que o mercado estava aquecido, enquanto as condições reais arrefeciam.

A Zillow comprou casas a preços inflacionados durante meses antes de alguém detetar o problema. Quando chegou o momento do acerto de contas, a empresa encerrou toda a unidade de compra de casas, despediu 25% da sua força de trabalho e absorveu perdas totais superiores a $900 milhões. As ações perderam cerca de $7.8 mil milhões em valor de mercado no espaço de poucos dias.

A redução contabilística não foi causada por uma falha súbita. Foi causada por uma deriva gradual que se agravou porque ninguém estava a observar os sinais. Substitua «preços das casas» por «decisões de contratação» ou «avaliações de desempenho» e o padrão é idêntico. A deriva é silenciosa. A exposição acumula-se. O acerto de contas não é.

Para os executivos responsáveis pela IA na força de trabalho, as categorias de custos são concretas.

• A exposição financeira resulta de decisões de IA falíveis que se acumulam ao longo do tempo sob a forma de contratações inadequadas, despedimentos indevidos e talento mal alocado
• A exposição a litígios resulta do facto de meses de decisões de seleção tendenciosas, todas documentadas nos registos do sistema, criarem exatamente o tipo de prova sistemática que os advogados de ações coletivas procuram
• As multas regulamentares já não são meramente teóricas à medida que os quadros de fiscalização amadurecem
• Os danos reputacionais atingem a marca empregadora num mercado de talento competitivo
• A perturbação ao nível do conselho de administração entra em cena à medida que as falhas de governação na tomada de decisões com IA passam a enquadrar-se no âmbito dos deveres fiduciários. Os administradores perguntam se a organização consegue demonstrar supervisão, e «temos uma política» não é uma resposta. É algo em que a IA na gestão do conselho de administração pode ajudar.

Porque falha a maioria dos quadros de governação

A maioria das organizações adotou a linguagem da IA responsável. Têm políticas. Têm princípios. Algumas fazem referência ao NIST. Mas nunca integraram a monitorização interna necessária para verificar se estão a cumprir qualquer um desses compromissos. Conseguem descrever a sua posição em matéria de governação da IA. Não a conseguem medir.

Esta é a lacuna de instrumentação, e é aí que reside o verdadeiro risco.

A Dra. Fern Halper, vice-presidente e diretora de investigação sénior de Analítica Avançada na TDWI, faz referência a um inquérito realizado pela empresa no final de 2025 a várias centenas de organizações. Apenas cerca de um terço descreveu a sua governação da IA como madura em termos de adesão organizacional, processos definidos, responsabilização, ferramentas e capacidade de medir resultados. 

As capacidades de monitorização eram ainda menos comuns. Menos de 25% afirmaram utilizar algum tipo de ferramentas de monitorização de IA capazes de detetar desvios.

Essa conclusão reformula o problema da governação para muitos líderes. A conversa nas salas de administração tende a pressupor que a governação existe e que a questão é saber se é suficientemente boa. Para a maioria das organizações, a infraestrutura necessária para governar as decisões de IA de forma mensurável simplesmente ainda não foi construída.

O Quadro de Gestão de Risco de IA do NIST, lançado em janeiro de 2023, define quatro funções essenciais: Governar, Mapear, Medir e Gerir. A maioria das organizações sabe que o quadro existe. Poucas o operacionalizaram para além das duas primeiras.

• Governar é a base transversal — cultura de risco, estruturas de responsabilização, compromisso da liderança, funções e responsabilidades. O NIST concebeu-a para ser integrada nas outras três funções, e não tratada como uma simples caixa de verificação autónoma. Sem Governar, Mapear, Medir e Gerir são exercícios no papel.
• Mapear identifica onde foi delegada autoridade de decisão à IA, que dados a alimentam, quem é afetado e o que está em jogo. Esta é a fase de inventário, e é aqui que a maioria das organizações para. Concluíram a avaliação do panorama. Documentaram que sistemas intervêm em que decisões. Depois avançaram.
• Medir é onde a governação se torna real. Exige ferramentas quantitativas, qualitativas ou de métodos mistos para analisar, estabelecer referências e monitorizar o risco da IA face a linhas de base definidas. O NIST é explícito: os sistemas de IA devem ser testados antes da implementação e regularmente enquanto estiverem em funcionamento. Regularmente. Não uma única vez.
• Gerir é a remediação — dar prioridade aos riscos identificados e corrigi-los, registar ações corretivas e ligar os sinais de deteção a respostas documentadas.

O problema é que a maioria das organizações para em Mapear ou, mais precisamente, para num Mapeamento parcial que não dispõe da base de Governar necessária para o tornar acionável. Raramente quantificam os desvios, acompanham os sinais de exposição ou registam ações corretivas.

Segundo Pease, não ligam certamente os sinais à remediação documentada. Mapear sem medir é um catálogo. Medir sem governar são apenas dados. Nada disso o protege durante a fase de descoberta de prova, a menos que esteja ligado a uma ação documentada.

Importa salientar: o alinhamento com o NIST está a tornar-se mais do que uma boa prática. A Lei da IA do Colorado cita explicitamente o NIST AI RMF como referência para a conformidade. As entidades que o implementem beneficiam de uma presunção ilidível de que adotaram "diligência razoável". Isto significa que o NIST está a tornar-se o padrão face ao qual a responsabilidade jurídica é aferida, e não apenas uma orientação voluntária.

Como detetar e quantificar a deriva da IA

A mudança fundamental que as organizações precisam de fazer é conceptual antes de ser técnica. Devem deixar de tratar a supervisão da IA como uma função de auditoria, com revisões anuais ou trimestrais agendadas antecipadamente e comunicadas posteriormente, e começar a tratá-la como uma função operacional. Monitorização contínua de sinais com limiares definidos, a decorrer em paralelo com os sistemas que monitoriza.

O que monitorizar

Nos sistemas de IA aplicados à força de trabalho, são importantes cinco categorias de sinais.

• Padrões de resultados: as recomendações de contratação, as pontuações de desempenho ou as decisões de remuneração estão a afastar-se dos valores de referência definidos no momento da implementação?
• Métricas de equidade: os resultados relativos a grupos protegidos estão a divergir, ainda que gradualmente?
• Dados de entrada: a composição dos dados que alimentam o sistema mudou de formas para as quais o modelo não foi concebido?
• Âmbito das decisões: a autoridade efetiva da IA expandiu-se para além do seu mandato original?
• Alinhamento regulamentar: os requisitos estão a evoluir mais rapidamente do que a documentação de governação?

Nenhum destes dados é exótico. São métricas operacionais que já deveriam existir em qualquer sistema que tome decisões com consequências significativas sobre pessoas. A maioria das organizações nunca criou a infraestrutura necessária para os acompanhar continuamente, ou nunca definiu os valores de referência face aos quais medir a mudança.

Da descrição à quantificação

A lacuna que a maioria das organizações precisa de colmatar é a distância entre a governação qualitativa e a governação quantitativa. Entre "temos uma política de IA responsável" e "podemos apresentar métricas mensais de deriva, com limiares documentados e ações corretivas".

Quantificar significa medir:

• Magnitude da deriva: até que ponto os resultados se afastaram do valor de referência e em que direção
• Pontuação da exposição financeira: traduz as métricas técnicas para a linguagem empresarial, em termos do custo estimado mensal de uma deriva não corrigida.
• Indexação da exposição jurídica: baseada nos padrões dos resultados relativos a grupos protegidos ao longo do tempo
• Medição da lacuna de conformidade: a distância entre o comportamento atual do sistema e os requisitos regulamentares aplicáveis.

Imagine-se um motor de sensibilidade ao risco, na medida em que é um mecanismo de acompanhamento contínuo que converte os sinais de deriva em métricas de exposição financeira e jurídica, mês após mês.

É isto que transforma a governação de um documento num painel de controlo. É isto que dá à liderança a visibilidade necessária para agir antes de a exposição se acumular e se transformar no tipo de responsabilidade que acaba num tribunal.

Da deteção à ação: telemetria da governação

"Governação sem telemetria é um litígio à espera de acontecer", afirmou Pease. "A delegação precisa de supervisão."

O quadro que apresenta estabelece uma distinção clara entre a governação enquanto documento e a governação enquanto capacidade operacional. As normas descrevem o aspeto que a governação deve ter. A telemetria torna-a operacional. A diferença é a diferença entre um manual de políticas e um sistema operativo.

A telemetria, neste contexto, significa a recolha contínua de sinais, combinada com a avaliação de limiares e um registo documentado das ações. Cinco componentes fazem-na funcionar.

• Captação de sinais é a recolha contínua de indicadores de desvio em cada ponto de decisão delegado à IA. Não é amostragem. Não são auditorias trimestrais. É contínua. Se o sistema toma decisões todos os dias, a monitorização deve estar a funcionar todos os dias.
• Lógica de limiares define limites preestabelecidos que distinguem uma variação aceitável de um desvio que exige intervenção. Estes devem ser calibrados de acordo com a tolerância ao risco da organização e os requisitos regulamentares. Uma alteração de 2% nos padrões das recomendações de contratação significa algo diferente num ambiente de contratação federal do que numa empresa emergente. Os limiares têm de ser definidos antes de serem necessários, e não concebidos retroativamente depois de surgir um problema.
• Encaminhamento de escalamento encaminha os sinais assinalados para o decisor certo, ao nível adequado, através de fluxos automatizados. Nem todos os sinais de desvio exigem a atenção do CHRO. Alguns exigem. A lógica de escalamento é o que transforma o desvio de um ponto de dados ignorado num risco gerido. Sem ela, os sinais acumulam-se em painéis que ninguém consulta até ser tarde demais.
• Registo de auditoria fornece documentação imutável sobre o que foi detetado, quando foi detetado, que ação foi tomada e por quem. Este é o artefacto que resiste à divulgação de provas em processos judiciais. É isto que prova que a governação ocorreu e que foi mais do que uma declaração de intenções.
• Ciclo de ação corretiva encerra a cadeia. A deteção conduz à avaliação. A avaliação conduz à ação. A ação é registada. Sem isto, tem monitorização. Com isto, tem governação.

Estes cinco componentes correspondem diretamente ao NIST AI RMF. Governar fornece a estrutura de responsabilização que garante a existência de telemetria, a disponibilização de recursos e a visibilidade por parte da liderança. Mapear identifica os pontos onde a telemetria tem de existir — em cada ponto de decisão delegado à IA. Medir é aquilo que a telemetria capta: a magnitude do desvio, os sinais de exposição, as violações dos limiares e as métricas de equidade. Gerir é aquilo que a telemetria desencadeia: escalamento, ação corretiva, remediação documentada e responsabilização em circuito fechado.

Este mapeamento é importante porque liga a prática operacional à norma de conformidade que a Lei da IA do Colorado — e, provavelmente, as leis estaduais subsequentes — utilizará para avaliar se uma organização exerceu um cuidado razoável.

Três perguntas às quais todos os líderes têm de responder agora

Pease estrutura a postura de governação mínima viável em torno de três perguntas. Se a liderança não conseguir responder às três, a governação da organização é reativa, gerindo o risco reputacional em vez do risco operacional.

1. Onde foi delegada autoridade de decisão à IA nos sistemas de gestão da sua força de trabalho? Não onde a IA é "utilizada". Onde lhe foi atribuída autoridade para tomar decisões sobre pessoas ou influenciá-las de forma material, como contratação, triagem, avaliação, remuneração, elaboração de horários e classificação do risco de cessação do contrato. Se não conseguir produzir este mapa, não pode governar aquilo que não consegue ver.
2. Consegue quantificar o desvio da governação mês após mês? Não se trata de perguntar "temos uma política?" Consegue produzir uma métrica que mostre se os seus sistemas de IA estão a funcionar dentro de parâmetros definidos e se isso mudou desde o mês passado? Se a governação não pode ser medida, não pode ser gerida.
3. Consegue demonstrar uma ação corretiva documentada? Quando foi detetado um desvio, o que aconteceu? Quem foi notificado? Qual foi a decisão? O que mudou? Se não consegue mostrar o percurso desde a deteção até à resposta, tem, no melhor dos casos, monitorização. Não tem governação.

Por onde começar

Para muitas empresas, as prioridades de implementação são práticas.

• Comece pelos sistemas de gestão da força de trabalho. Estes comportam a maior exposição porque afetam diretamente as pessoas e estão sujeitos ao maior escrutínio regulamentar.
• Construa primeiro o registo de auditoria. É isto que os reguladores e os tribunais irão exigir. A capacidade de demonstrar que a governação ocorreu oferece uma proteção mais imediata do que aperfeiçoar a própria monitorização.
• Crie a instrumentação antes de expandir. Adicionar telemetria depois da implementação é exponencialmente mais difícil e dispendioso do que integrá-la desde o início. Cada nova implementação de IA sem instrumentação de governação representa uma nova exposição não monitorizada.

As organizações que constroem telemetria de governação com a IA na gestão de operações estão a construir a infraestrutura que lhes permite implementar IA com confiança, avançar mais rapidamente na adoção e demonstrar aos reguladores, aos conselhos de administração e aos trabalhadores que as pessoas afetadas por estes sistemas estão a ser protegidas. Não processadas. Protegidas.

A janela de aplicação está a estreitar-se. A questão é saber se terá provas que demonstrem que esteve atento.