Esses sistemas não têm interesses próprios, não fazem escolhas no sentido filosófico do termo e não determinam seus próprios objetivos
Os agentes de IA representam a mais recente fronteira tecnológica, com a proposta de executar ações no ambiente digital. A essa promessa soma-se uma camada adicional de complexidade e, sobretudo, de confusão terminológica – confusão que não é fortuita, mas resulta do choque entre a linguagem matemática das máquinas e a linguagem natural dos humanos. O resultado é um vocabulário que, ao ser transposto para as máquinas, distorce a percepção sobre o que esses sistemas realmente são e o que não são. E o número de incidentes com danos significativos cresce exponencialmente.
Cada conceito carrega uma história semântica associada à experiências subjetivas. Quando aplicado a sistemas computacionais, perde essa riqueza, mas conserva o poder evocativo. Pesquisadores da filosofia da mente e da linguística computacional alertam há décadas para esse risco: John Searle, com seu célebre experimento do “Quarto Chinês”, argumentou que simular compressão não equivalia a compreender. Mais recentemente, Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell cunharam a expressão “papagaios estocásticos” para descrever modelos de linguagem que produzem texto plausível sem qualquer entendimento semântico real. O debate persiste, mas a indústria, pressionada por demandas de mercado, opta pelas narrativas mais sedutoras.
Nenhum termo gera mais equívoco no debate sobre agentes de IA do que “autonomia”. Fala-se em agentes que atuam “por conta própria”, que “decidem” qual caminho tomar, que agem de forma “independente”. O problema é que esses termos carregam, na linguagem natural, acepções que vão além da realidade técnica. O Dicionário Oxford, por exemplo, define autonomia como “a capacidade de uma pessoa tomar decisões e agir de forma independente, livre de influência ou coerção externa”. A Universidade de Princeton acrescenta que um ser autônomo é aquele cujas ações refletem seus próprios interesses e escolhas. Jean Piaget descreveu a autonomia como a capacidade de escolher as próprias regras e, ao fazê-lo, determinar o próprio comportamento. Nenhuma dessas definições se aplica a um agente de IA: esses sistemas não têm interesses próprios, não fazem escolhas no sentido filosófico do termo e não determinam seus próprios objetivos. A “decisão” de acionar uma API ou redigir um e-mail não nasce de um desejo do sistema, mas é o resultado de uma função probabilística aplicada a um contexto específico, dentro de limites preestabelecidos.
Se os agentes de IA não são autônomos no sentido humano do termo, como deveríamos chamá-los? Quando um agente adapta sua sequência de ações ao contexto, lida com situações não explicitamente previstas e combina informações de fontes heterogêneas para alcançar um resultado, demonstra uma forte capacidade adaptativa – mas isso não equivale a autonomia. O termo que melhor captura essa característica talvez seja “automação adaptativa”: uma expressão que reconhece tanto a natureza essencialmente automatizada do processo quanto a flexibilidade contextual que o distingue dos sistemas determinísticos e da IA generativa convencional (termo cunhado por João Pedro Pinheiro de Oliveira da Mota Barros, doutorando do TIDD PUC SP).
A confusão terminológica não é apenas um problema acadêmico; ela tem consequências práticas na forma como organizações implantam esses sistemas, como reguladores os enquadram e como usuários finais interagem com eles. Quando uma organização adota um “agente autônomo” para gerir fluxos de aprovação financeira, a narrativa da autonomia pode criar uma perigosa ilusão de que o sistema opera sem necessidade de supervisão – com risco de delegar decisões sensíveis a um sistema que, na prática, pode falhar de formas imprevisíveis. “Automação adaptativa” não é um rótulo tão sedutor, mas é mais honesto e mais útil para orientar expectativas, regulação e responsabilização.
Os riscos associados aos agentes de IA são efetivamente inéditos — não porque os sistemas sejam “autônomos”, mas porque operam em ciclos longos, acessam múltiplos recursos externos e podem amplificar erros ao longo de cadeias de ações concatenadas. Um modelo de linguagem que produz uma resposta incorreta causa um dano localizado; um agente que, a partir dessa resposta incorreta, envia e-mails, atualiza registros e aciona APIs pode causar danos em cascata antes que qualquer humano intervenha. A governança desses sistemas exige, portanto, novas abordagens: mecanismos de interrupção e revisão humana em pontos críticos do ciclo de execução, trilhas de auditoria detalhadas, testes de robustez em cenários adversariais e clareza sobre os limites de atuação de cada agente. Nada disso é viável sem uma compreensão precisa do que esses sistemas fazem — e do que não fazem.
Não há uma definição universal de agente de IA, mas algumas características recorrentes permitem delimitar o conceito: trata-se de um sistema capaz de automatizar fluxos de trabalho complexos, executando múltiplas etapas de um processo, acessando recursos externos – bancos de dados, APIs, documentos, sistemas corporativos – e interagindo com ambientes digitais de maneira dinâmica. Em termos técnicos, é um LLM (large language model) conectado a diversas outras tecnologias digitais, ao qual se confere um novo tipo de “liberdade”: em vez de receber instruções via prompt, o sistema recebe metas e escolhe a melhor maneira de alcançá-las. Reid Blackman, em seu livro “The Ethical Nightmare Challenge: How to avoid the worst of AI” (2026), alerta que “o cenário de riscos da IA está se tornando cada vez mais insano, e rapidamente. Estamos passando do complicado para o complexo, para um ponto em que nossa capacidade de prever o comportamento da IA se desfaz à medida que os ecossistemas de IA acumulam riscos sobre riscos”.
Nesse caso, a supervisão humana é ainda mais imprescindível – supervisão que, contudo, apresenta inéditos desafios: diferentemente da IA generativa convencional, esses sistemas acessam volumes enormes de informação e os processam com tamanha complexidade que verificar a consistência dos resultados torna-se, na prática, quase inviável para um ser humano. Não há como controlar as fontes acessadas pelos agentes de IA, inclusive quanto à possibilidade de estarem comprometidas por malware (software malicioso) ou base de dados imprópria. A natureza dos agentes de IA exige acoplar à supervisão humana sistemas determinísticos – apenas o uso de técnicas probabilísticas, como os modelos e sistemas de IA, não equaciona a totalidade dos riscos. A realidade é que as organizações não estão preparadas para lidar com a IA generativa, e menos ainda para lidar com os agentes de IA.
Os agentes de IA são uma inovação tecnológica de grande potencial. Eles ampliam a capacidade humana de automatizar processos complexos, lidar com informações heterogêneas e executar tarefas com mais eficiência. Mas são, em sua essência, automação sofisticada de processos (de alto risco) – e quanto mais cedo os nomearmos com precisão, melhor poderemos aproveitar o que oferecem e mitigar o que ameaçam.
Por: Dora Kaufman, Professora da PUC-SP. Autora dos livros ‘A inteligência artificial irá suplantar a inteligência humana?’ e ‘Desmistificando a inteligência artificial’
