Pesquisa da FICO com mais de mil executivos mostra que, apesar dos investimentos na tecnologia, empresas ainda enfrentam dificuldades para garantir transparência e ampliar o uso de sistemas autônomos
As empresas estão investindo bilhões em inteligência artificial, mas seus próprios executivos ainda têm dificuldades para explicar como a tecnologia chega a determinadas conclusões. Segundo um levantamento da FICO, empresa especializada em análise de dados e tecnologia de decisões, apenas 5,2% dos líderes entrevistados afirmam ter muita confiança em sua capacidade de explicar decisões tomadas por IA a clientes e reguladores.
O dado faz parte da quinta edição do relatório State of Responsible AI, realizado em parceria com a Corinium Global Intelligence, que ouviu 1.004 executivos das áreas de tecnologia, dados e risco. Outros 37,3% dos participantes se declararam neutros ou sem confiança para justificar as decisões da tecnologia.
“A maioria das organizações consegue dizer onde e o que a IA decidiu. Muito poucas conseguem explicar o porquê”, disse em nota Scott Zoldi, diretor de análise de dados da FICO. Segundo ele, a dificuldade evidencia a necessidade de padrões mais claros de desenvolvimento, auditoria e gestão dos modelos.
A falta de confiança ajuda a entender por que a inteligência artificial ainda participa de uma parcela relativamente pequena das decisões empresariais. De acordo com a pesquisa, 71,5% das decisões que afetam clientes continuam sendo tomadas sem IA, com predomínio do julgamento humano, de sistemas baseados em regras e de ferramentas tradicionais de análise de dados.
Isso ocorre mesmo com resultados financeiros considerados positivos. Entre os entrevistados, 85,1% afirmam que a IA já atendeu ou superou suas expectativas de retorno sobre o investimento.
Os agentes de IA também enfrentam dificuldades para sair dos testes. Apenas 2,4% dos participantes relatam uma implementação ampla de sistemas agênticos em aplicações voltadas aos clientes, enquanto 71,5% ainda estão em fases exploratórias ou projetos-piloto. As preocupações com segurança (40,1%) e os problemas de integração e qualidade dos dados (38,3%) aparecem como os principais obstáculos.
Para os próximos cinco anos, a maior preocupação dos executivos é a capacidade dos profissionais de acompanhar a evolução tecnológica, citada por 63,2% dos entrevistados. Curiosamente, apenas 10,4% apontam a perda de controle sobre sistemas de IA como um dos principais riscos.
Por: Rennan Julio
