As questões de governação que só os RH estão preparados para responder

Em 2018, a Amazon abandonou uma ferramenta de aprendizagem automática que vinha a desenvolver há anos para analisar currículos. O sistema tinha sido treinado com base numa década de dados de contratação que refletiam a preferência histórica da empresa por candidatos do sexo masculino para funções técnicas.

O modelo aprendeu com esse padrão e replicou-o, desvalorizando currículos que incluíam palavras como "women's" e penalizando licenciados de universidades exclusivamente femininas. Os engenheiros da Amazon tentaram corrigi-lo. Não conseguiram garantir que o enviesamento não surgiria de outras formas, por isso encerraram-no.

A história é frequentemente citada como um alerta sobre a IA e o enviesamento. O que recebe menos atenção é a questão estrutural que levanta. De quem era, à partida, a responsabilidade de detetar isso? 

As equipas técnicas que construíram o sistema estavam concentradas em saber se este funcionava. É provável que o departamento jurídico estivesse concentrado na exposição a responsabilidades legais. Aparentemente, ninguém estava concentrado em saber se o sistema estava a produzir resultados justos para as pessoas que analisava, pelo menos não como uma função primária de governação.

Esse problema não foi resolvido na maioria das organizações. Na verdade, à medida que a implementação de IA nas empresas se expandiu e acelerou, tornou-se ainda mais difícil definir claramente essa responsabilidade.

As duas perguntas a que se responde agora

A maioria dos quadros de governação da IA nas empresas foi criada para responder a duas categorias de perguntas.

A primeira é jurídica: que responsabilidade existe se este sistema falhar, produzir um resultado discriminatório ou expuser dados regulamentados? 

A segunda é técnica: quais são os modos de falha, com que dados foi treinado o sistema e onde estão as vulnerabilidades de segurança? Ambas as categorias são importantes. Nenhuma é suficiente por si só, porque nenhuma foi concebida com uma obrigação primária para com as pessoas afetadas pelos sistemas.

Isto não é uma crítica ao departamento jurídico ou às TI. Essas funções criaram quadros de governação para responder às perguntas para as quais foram contratadas. O problema é que a adoção de IA nas empresas avançou suficientemente depressa para ultrapassar qualquer conversa deliberada sobre quem assume a responsabilidade pelas perguntas restantes, e a maioria das organizações recorreu por defeito aos quadros já existentes.

De acordo com o inquérito da PwC sobre IA responsável de 2025, 56% dos executivos afirmam que as suas equipas da primeira linha — TI, engenharia, dados e IA — lideram agora os esforços de IA responsável. Os recursos humanos não aparecem nesse valor de forma significativa. 

De acordo com o Inquérito sobre Governação da IA da Pacific AI de 2025, três quartos das organizações estabeleceram políticas de utilização da IA, mas apenas 36% adotaram um quadro formal de governação, ou seja, funções, controlos e mecanismos de aplicação definidos. A distância entre um documento de política e uma responsabilização funcional é precisamente o espaço onde as questões relacionadas com as pessoas ficam sem resposta.

O Regulamento da UE sobre a IA, que começou a introduzir gradualmente requisitos de aplicação em 2024, classifica por categoria como de alto risco os sistemas de IA utilizados no emprego e na gestão da força de trabalho. Essa designação abrange ferramentas utilizadas para recrutamento, avaliação de desempenho, distribuição de tarefas e monitorização. Essencialmente, o conjunto de sistemas que a maioria das empresas está agora a implementar em grande escala. 

A classificação de alto risco implica requisitos mais rigorosos de documentação, transparência e supervisão humana. Não especifica quem, dentro de uma organização, é responsável por cumprir esses requisitos. Essa questão é devolvida à empresa.

Na maioria das organizações, a resposta tem sido "quem já assume a responsabilidade pela governação". Normalmente, isso significa o departamento jurídico, a conformidade ou a segurança informática — as funções com quadros estabelecidos. Os recursos humanos são frequentemente envolvidos como parte interessada ou consultados durante a implementação. Raramente lideram.

As perguntas que estão a ser ignoradas

As perguntas que determinam se a IA está efetivamente a prejudicar as pessoas não se enquadram perfeitamente no risco jurídico ou na falha técnica. Exigem um ponto de partida diferente.

Este sistema está a produzir resultados enviesados entre grupos demográficos?

Responder a essa pergunta exige saber como é a equidade num contexto laboral específico, e não apenas o que é defensável num contexto jurídico. São padrões diferentes. 

Um sistema pode ser juridicamente defensável e, ainda assim, produzir resultados sistematicamente piores para um grupo de trabalhadores do que para outro. Detetar isso exige alguém que compreenda como são as práticas laborais equitativas e que tenha autoridade para assinalar quando um sistema se desvia delas.

Os funcionários estão a ser avaliados com base em dados que não compreendem ou cuja recolha não lhes foi comunicada?

De acordo com o inquérito de 2025 sobre o local de trabalho da Owl Labs, 20,5% dos funcionários não têm a certeza de que a monitorização esteja sequer a ocorrer e 12,8% não sabem o que está a ser monitorizado. 

Esta não é uma questão periférica. Atualmente, 61% das empresas dos EUA utilizam análises baseadas em IA para medir a produtividade ou o comportamento dos funcionários. Saber se os funcionários têm conhecimento de que isto está a acontecer, compreender de que forma isso contribui para as suas avaliações e dispor de alguma via para contestar os resultados produzidos pelo sistema são questões relacionadas com a relação laboral. Estas questões pertencem à função responsável pela relação laboral.

Quem decide quando uma recomendação de IA é anulada e com que fundamento?

Nas organizações onde as ferramentas de IA influenciam ou informam decisões sobre contratação, promoção, avaliações de desempenho ou despedimento, a questão da anulação está entre as decisões de governação mais consequentes que uma empresa pode tomar. 

Errar num sentido significa que as recomendações da IA não são verificadas. Errar no sentido oposto significa que os resultados do sistema são tratados como uma encenação consultiva ou como uma infraestrutura dispendiosa em que ninguém confia.

Calibrar esse limiar exige compreender tanto o funcionamento da ferramenta como a forma como os gestores tomam decisões, onde surgem enviesamentos no julgamento humano e como se traduz a responsabilização quando os resultados são contestados.

Nenhuma destas questões tem lugar definido na maioria dos quadros de governação empresarial. Exigem conhecimentos especializados do domínio que se encontram nos recursos humanos e no desenho organizacional, não nas áreas jurídica ou de engenharia.

O mapa da responsabilização

O que pertence aos recursos humanos na governação da IA não é uma questão de preferência ou de política organizacional. Decorre da função. Os recursos humanos são a função empresarial com uma obrigação primordial para com os funcionários, desde o seu tratamento justo ao seu desenvolvimento e aos seus direitos no âmbito da relação laboral.

Essa obrigação não desaparece quando a IA entra no processo, mas torna-se mais complexa.

Várias decisões de responsabilização pertencem por natureza aos recursos humanos, e não por atribuição.

A auditoria de enviesamentos na IA aplicada ao emprego é a mais direta

As equipas técnicas podem testar se um modelo tem um desempenho consistente com diferentes dados de entrada. Só os recursos humanos podem avaliar se um desempenho consistente se traduz em resultados equitativos no contexto e se a ferramenta de gestão do desempenho que avalia todos com base nos mesmos critérios está, na prática, a gerar distribuições de classificações que prejudicam funcionários em determinadas funções, geografias ou grupos demográficos. 

Isto exige acesso a dados de recursos humanos, compreensão do direito laboral e das normas de equidade, bem como legitimidade organizacional para agir com base no que for encontrado.

Obrigações de transparência para com os funcionários

Os funcionários têm interesse em compreender quando a IA é utilizada para informar decisões que lhes dizem respeito, que dados estão a ser utilizados e como são extraídas as conclusões. 

Em algumas jurisdições, têm direitos legais sobre essa informação. A forma como uma organização cumpre essas obrigações — através de políticas, formação ou conceção de processos — e se as trata como um requisito mínimo ou como um verdadeiro padrão depende das práticas de recursos humanos.

O poder de anular

A conceção da anulação humana é mais complexa e consequente do que normalmente se reconhece. A questão de quando uma pessoa pode ou deve anular uma recomendação de IA envolve compreender onde é provável que as ferramentas de IA falhem, onde o julgamento humano é mais fiável e como integrar a responsabilização nas decisões de anulação para que estas não se tornem simplesmente um novo vetor de enviesamento. 

Isto exige alguém que compreenda tanto a ferramenta como o comportamento organizacional que a envolve. Os recursos humanos, em estreita coordenação com as equipas que implementam a IA, estão mais bem posicionados para assumir a responsabilidade por esta conceção.

Vias de recurso dos funcionários  

O que acontece quando alguém considera que uma decisão influenciada pela IA estava errada pertence à governação dos recursos humanos. Não apenas porque os recursos humanos gerem os processos de reclamação, mas porque conceber vias de recurso exige ponderar de que forma são investigados os litígios que envolvem resultados da IA, que provas estão disponíveis e que soluções são possíveis. 

A área jurídica define o mínimo. Os RH definem se a organização leva realmente a sério esta questão.

Competência técnica

Existe uma objeção razoável à premissa de uma governação da IA liderada pelos RH, e vale a pena abordá-la diretamente. Os RH nem sempre têm a competência técnica necessária para avaliar sistemas de IA. 

É verdade. Mas a autoridade de governação e a avaliação técnica são coisas diferentes. A área jurídica não programa e a área financeira não executa os processos de engenharia que audita.

A função responsável por um domínio de governação não precisa necessariamente de executar o trabalho técnico,  precisa de ter a legitimidade e a competência para definir as normas, avaliar os resultados e responsabilizar os outros.

O que os RH precisam para liderar a governação da IA não é de uma equipa de ciência informática. É de clareza sobre as questões que têm a obrigação de responder, da autoridade organizacional para as colocar e de acesso aos recursos técnicos e de dados necessários para lhes dar resposta. 

Na maioria das empresas, os RH dispõem atualmente de versões limitadas das três. A autoridade organizacional é frequentemente a mais difícil de construir, porque exige que os CHROs reivindiquem uma área de governação que outras funções ocuparam por defeito.

Essa reivindicação tem de acontecer ao nível da direção executiva. Um comité de governação da IA que esteja totalmente integrado nas áreas jurídica e de TI produzirá quadros de gestão dos riscos jurídicos e técnicos. Acrescentar os RH como participantes no quadro de outra função não altera as questões que obtêm resposta primeiro. 

Os CHROs com quem falo e que criaram uma governação da IA eficaz e centrada nas pessoas fizeram-no normalmente estabelecendo claramente a responsabilidade dos RH antes de serem tomadas decisões de implementação, e não tentando adaptar a sua influência a um processo já estruturado em torno de outras prioridades.

O fracasso da ferramenta de recrutamento da Amazon aconteceu porque a organização que a criou não tinha uma função com responsabilidade clara pela questão “estes resultados são justos para as pessoas que estão a ser avaliadas?”. A área jurídica perguntou sobre a responsabilidade legal. A engenharia perguntou sobre o desempenho. Nenhuma das perguntas captou aquilo que estava realmente a correr mal.

A IA empresarial está agora a tomar ou a influenciar decisões sobre quem é contratado, quem é promovido, como o desempenho é avaliado e como o trabalho é monitorizado, numa escala que ultrapassa largamente aquilo que qualquer gestor individual poderia produzir. Com a aplicação integral do Regulamento da IA da UE aos sistemas de emprego a chegar em agosto, essa ambiguidade está a tornar-se uma responsabilidade em mais do que um sentido. 

Os RH foram criados para proteger as pessoas dentro das organizações. A governação da IA é agora um dos principais contextos em que essa obrigação tem de ser cumprida. A função reivindica esse espaço ou cede-o a quadros concebidos para responder a questões diferentes.