Key Takeaways
Definição de confiança: A confiança varia nas empresas; uma definição envolve a segurança, enquanto as perspetivas dos colaboradores são frequentemente ignoradas.
A segurança em primeiro lugar: Francis deSouza salienta a arquitetura de segurança como base da confiança na IA nas organizações.
Necessidades de transparência: A honestidade sobre as interações entre fornecedores e clientes é vital, mas não equivale à equidade nem à voz dos colaboradores.
A palavra "confiança" surgiu dezenas de vezes ao longo de duas sessões sobre IA empresarial na HumanX, na semana passada. O que resultou dessas sessões foi a prova de que confiança nem sempre significa o mesmo dentro da organização.
Para Francis deSouza, COO da Google Cloud, a confiança começa pela arquitetura de segurança.
«Não existe uma conversa sobre IA sem uma conversa sobre segurança», afirmou, explicando como as empresas têm de lidar com novas superfícies de ataque, ameaças autónomas e a necessidade de reconstruir as estratégias de dados de raiz antes de implementarem IA em grande escala.
Quando descreveu funcionários a descarregarem ferramentas fora da supervisão das TI, enquadrou a situação como um problema de gestão de riscos. A solução é uma plataforma autorizada, com governação e auditável.
Numa sessão separada sobre a conceção de sistemas de IA que conquistam a confiança dos utilizadores, Wendy Gonzalez, da Sama, apresentou um ponto de partida diferente. Descreveu uma conversa que tivera com uma colega pouco antes de subir ao palco. A preocupação não era a substituição de empregos. Não é uma questão de segurança. Nenhum modelo de ameaças lhe dá resposta.
Nem sequer se trata de saber se isto me vai tirar o emprego. Era mais algo como: se as pessoas virem os meus pedidos, vão achar que não sou tão inteligente?
A Lacuna Está à Vista de Todos
Este é o problema. As implementações de IA empresarial estão a tornar-se cada vez mais sofisticadas no que diz respeito à definição técnica de confiança — segurança, fiabilidade, auditabilidade e validação de modelos. Estão substancialmente menos desenvolvidas no que diz respeito à dimensão humana: saber se os funcionários acreditam que os sistemas que moldam o seu trabalho são justos, honestos quanto às suas limitações e concebidos tendo em consideração as pessoas que deles fazem parte.
As organizações estão a confundir as duas dimensões. Criar uma plataforma de IA bem governada, segura e conforme parece resolver o problema da confiança. O que foi resolvido é a definição do fornecedor que surge nas auditorias de segurança e nos quadros de conformidade.
A definição dos funcionários continua, em grande medida, sem resposta e, na maioria das conversas sobre IA empresarial, em grande medida, nem sequer é colocada.
Christina Casioppo, da Vanta, apresentou aquilo a que chamou a formulação mais clara da confiança empresarial: responsabilização baseada em «fazer aquilo que diz na embalagem».
Por outras palavras, se disse que faria X e está a fazer Y, diga-o. É um padrão razoável, mas é um padrão entre empresas sobre a forma como um fornecedor conquista a confiança de um cliente. O que é devido aos funcionários recebe menos atenção.
O momento mais franco da sessão surgiu quando Casioppo descreveu a abordagem da Vanta à transparência interna: informar desde o início os novos colaboradores de que, perante qualquer conflito, os clientes vêm primeiro.
A lógica é que a divulgação prévia suaviza o choque posterior de se sentirem relegados para segundo plano. É honesto. Mas as práticas de transparência em matéria de IA não são o mesmo que equidade, e saber qual é o seu lugar na hierarquia de prioridades não é o mesmo que ter qualquer influência sobre ela.
Gonzalez aproximou-se mais do modelo de confiança dos funcionários quando descreveu como permitia a grupos de trabalhadores testar diferentes ferramentas, partilhar o que funcionava e o que não funcionava e celebrar ambas as experiências.
Apresentou isso como uma forma de criar confiança genuína, em vez de impor uma plataforma de cima para baixo. É significativamente diferente de exigir a adoção e medir os números. Mas continua a ficar-se pela adoção.
A confiança, no sentido que deve preocupar os CHROs e os COOs, significa algo mais: os funcionários acreditam que a IA está a ser implementada de formas que têm em conta os seus interesses, que as decisões que influencia são justas e que existe algum recurso quando não o são?
Quando o Sistema Se Torna o Decisor
A camada autónoma torna esta questão mais urgente. Gonzalez estabeleceu uma distinção que vai ao cerne da questão.
Uma coisa é confiar num resultado; outra coisa é confiar num sistema inteiro." — Wendy Gonzalez, Sama
Quando o AI responde a uma pergunta, um trabalhador pode avaliar a resposta. Quando o AI encaminha trabalho, assinala o desempenho ou influencia quem obtém determinada oportunidade, muitas vezes o trabalhador nem consegue ver o sistema. As normas de transparência que fazem sentido ao nível do modelo não se estendem automaticamente às pessoas que vivem dentro dos resultados produzidos pelo modelo.
DeSouza descreveu o objetivo a longo prazo como a criação de uma força de trabalho "bilingue" — fluente tanto na sua função como em AI. Apontou para os hackathons internos da Google, em que a equipa de RH venceu duas vezes consecutivas, como prova de que uma adoção abrangente pode produzir uma verdadeira fluência entre funções.
É um sinal útil. Mas a fluência numa ferramenta não é o mesmo que a confiança no sistema a que essa ferramenta pertence. Os trabalhadores podem ser utilizadores de AI altamente competentes e, ainda assim, não ter qualquer visibilidade sobre a forma como o AI está a ser utilizado para os avaliar, classificar ou redistribuir.
A força de trabalho bem-sucedida do futuro será bilingue em todas as funções. Todos conhecerão a sua função e o AI.
Ambas as sessões foram substanciais. Os oradores foram ponderados. O que é digno de nota não é aquilo em que algum deles errou, mas aquilo para que a conversa sobre AI nas empresas, considerada como um todo, ainda não abriu espaço.
A segurança e a conformidade são problemas reais, urgentes e genuinamente difíceis. Mas descrevem a infraestrutura da confiança, não a experiência da confiança. Para os trabalhadores a quem é pedido que construam a sua vida profissional em torno destes sistemas, essa distinção é toda a questão.
