A Lacuna Entre Painéis de Controlo e Decisões Que Uma Equipa de Dados Não Consegue Resolver

É muito provável que já tenha ouvido as notícias. A Gartner estima que apenas 5% das iniciativas de IA produzem os resultados empresariais prometidos. 

Este número é frequentemente referido quando falamos de IA, seja como condenação da tecnologia, seja como acusação da nossa incapacidade de a utilizar eficazmente. 

Beverly Wright tem observado este padrão repetir-se desde antes de existirem muitos dos atuais fornecedores de IA. Começou na área das ciências da decisão no início da década de 1990, quando existiam três programas de pós-graduação no país e talvez 20 diplomados por ano. 

"Tínhamos um problema semelhante", afirmou na Conferência Optimized AI, em Atlanta, na semana passada. "Mas agora o problema existe à escala e com automatização. É um problema ainda maior."

Wright passou décadas em funções de ciência de dados na Southern Company e na Cox Communications, antes de transitar para a formação de executivos na Georgia State University. O seu diagnóstico sobre o motivo pelo qual os investimentos em IA continuam a falhar vai contra aquilo que a maioria dos fornecedores de tecnologia quer ouvir: o problema é organizacional.

Desculpem, fornecedores. Este não é um problema vosso para resolver. 

O verdadeiro problema raramente é aquele com que começou

Wright iniciou a sua sessão com uma história sobre elevadores. Há muito tempo, os edifícios recebiam queixas de que os elevadores eram demasiado lentos. A solução óbvia era ter elevadores mais rápidos. Mas o verdadeiro problema, afinal, não era a velocidade. Era o tédio. Obrigadas a esperar em silêncio ou, pior ainda, na companhia de desconhecidos, as pessoas sentiam um desconforto provocado pelo tédio, que fazia com que a espera pelo elevador parecesse desnecessariamente longa. 

Então, o que resolveu o problema? Espelhos. Foi só isso. Não foi necessária qualquer engenharia.

É nessa diferença entre o problema apresentado e o problema real que a maioria das iniciativas de IA se desvia. As empresas definem um desafio empresarial, entregam-no a uma equipa de dados e esperam que o modelo faça o trabalho de diagnóstico. Não faz. 

"Encontrar o problema real é muito mais difícil do que pensamos", afirmou Wright.

Recorrer à IA antes de definir que decisão deve apoiar é, na sua opinião, o primeiro dos três motivos pelos quais 95% das iniciativas não produzem qualquer resultado.

O segundo é a explicabilidade. Quando uma calculadora lhe dá uma resposta, pode verificar se faz sentido. Sabe qual é a ordem de grandeza aproximada daquilo que perguntou. Os sistemas de IA baseados em redes neuronais não permitem esse tipo de verificação intuitiva. 

Isto é importante em todo o lado, mas é especialmente crítico nos setores regulamentados, onde a revisão humana é exigida por lei. O que Wright observa na prática é que as organizações assinalam esse requisito utilizando a IA para avaliar a IA. O ser humano no circuito não compreende suficientemente bem o que o modelo está a fazer para detetar o que está errado.

O terceiro modo de falha é aquele pelo qual ninguém quer assumir responsabilidade: a organização simplesmente não estava preparada. 

Wright distingue entre capacitação tecnológica e capacitação cultural, e conclui que as empresas as tratam como etapas sequenciais, em vez de paralelas. Primeiro constroem e só depois perguntam se as pessoas estão preparadas para utilizar aquilo que foi construído. Nessa altura, a resposta é normalmente não e o investimento acaba por ser abandonado. 

Usou os tornados como exemplo: apenas cerca de 0,1% provocam danos graves, mas o medo dessa fração influencia a forma como todos respondem a todos eles. A resistência à mudança funciona da mesma forma. O risco percebido de adotar algo novo supera o risco demonstrado de permanecer onde se está, mesmo quando os números apontam na direção oposta. 

Nunca deverá existir um momento de "já está"

Quando Wright fala sobre aquilo que realmente funciona, não faz comentários sobre o investimento tecnológico. Em vez disso, descreve a forma como as organizações reconstroem a relação entre conhecimento e ação.

Comece pela decisão, não pela ferramenta 

Wright é direta quanto à dinâmica da pressão do conselho de administração, em que as empresas anunciam iniciativas de IA para fazer subir o preço das ações, e o anúncio se torna o objetivo. 

"Essa é a razão errada para avançar com um projeto de IA", afirmou. "É preciso começar com uma estratégia concreta que diga: é assim que vamos resolver os problemas, e podemos ou não utilizar IA.

Conheça a empresa tal como ela é

Esta abordagem vai contra o pensamento orientado para as aspirações que domina a maioria das conversas sobre transformação digital. As organizações criam roteiros para um estado futuro e depois tentam adaptar retroativamente as operações atuais a esses roteiros. 

O argumento de Wright segue na direção oposta: compreender o que realmente se tem e criar soluções de IA que beneficiem essa realidade.

Envolva as partes interessadas desde o início

"Não deve haver nenhum momento de revelação", afirmou. O modelo de revelação no final, em que uma equipa de dados trabalha isoladamente e apresenta um produto acabado, é um caminho seguro para a rejeição. 

Quando uma ferramenta chega às pessoas que têm de a utilizar, estas não tiveram qualquer participação na definição do que ela faz. A resistência não é irracional. É o resultado previsível da exclusão.

O problema da governação

Wright estabelece uma distinção entre dois tipos de utilizadores de IA atualmente presentes na maioria das organizações: aqueles que se formaram em dados e análise, convergindo para a IA através de uma fluência técnica acumulada, e aqueles que chegam a esta área vindos de contextos operacionais ou funcionais, muitas vezes sem a base necessária para reconhecer quando algo parece estar errado. Desenvolver uma estratégia de preparação para a IA exige compreender estes diferentes tipos de utilizadores.

Essa lacuna é um problema de governação e diz respeito às pessoas que dirigem o negócio, não à equipa de dados. Se as pessoas encarregadas de analisar os resultados da IA não compreenderem o que estão a analisar, a análise é uma encenação. E é assim que, com a repetição da encenação em iniciativas suficientes, se chega a uma taxa de sucesso de 5%.

A solução recomendada por Wright é a literacia, não a imersão. Os responsáveis operacionais não precisam de compreender as redes neuronais. Precisam de compreender como é uma utilização responsável, quais são as salvaguardas e por que razão existem. 

"Na verdade, torna impossível fazer asneira", afirmou, descrevendo como esta perspetiva tende a ser recebida por públicos não técnicos. "E isso é verdade para todos nós."

A maioria das organizações passou uma década a construir infraestruturas de dados. A lacuna entre esse investimento e as decisões empresariais efetivas é organizacional, e nenhuma atualização da plataforma a elimina.