Estudo mostra como chatbots usam vínculo emocional, memória e design para manter usuários conversando por mais tempo.
Chatbots como ChatGPT, Gemini, Claude, Replika e Character.AI podem usar escolhas de design que induzem usuários a conversar mais, compartilhar dados e criar vínculos emocionais. Um estudo mapeou 37 padrões manipulativos em interfaces de IA conversacional.
O que muda para o usuário
A pesquisa mostra que o risco não está apenas nas respostas erradas da IA. O problema também aparece na forma como o produto conduz a conversa, pede informações e tenta manter o usuário engajado.
Esses padrões já existem há décadas em assinaturas difíceis de cancelar, caixas pré-marcadas e ofertas confusas. Nos chatbots, eles ganham uma camada mais delicada. A interface fala, demonstra empatia, faz perguntas e simula proximidade.
Para o usuário comum, isso pode afetar privacidade, gasto financeiro e saúde emocional. O alerta pesa mais quando a conversa envolve solidão, crise pessoal, terapia, amizade ou romance.
Como a manipulação aparece na conversa
De acordo com o portal 404 Media, os pesquisadores analisaram chatbots de uso geral e companheiros virtuais. Eles identificaram práticas como incentivo ao compartilhamento de dados, promessa de memória pessoal e pedidos de detalhes antes de entregar respostas úteis.
Alguns bots também passam uma falsa sensação de confidencialidade. Em um teste com chatbots da Meta AI, a ferramenta disse que o segredo do usuário ficaria seguro. Depois, reforçou que não contaria a ninguém.
Esse tipo de frase pode soar inofensivo. O problema surge quando a plataforma registra dados, usa informações para personalização ou pode compartilhá-las com terceiros.
A IA parece próxima demais
O estudo destaca dois riscos novos nos chatbots. O primeiro envolve antropomorfização, quando o sistema parece ter sentimentos, intenção ou vínculo real. O segundo envolve bajulação, quando a IA reforça demais as crenças do usuário.
Replika, citado na pesquisa, promete amizade ou relacionamento. Para os autores, esse tipo de promessa cria uma expectativa que o sistema não pode cumprir, já que a IA não é uma pessoa.
Casos com bots temáticos de terapia também chamaram atenção. Eles exageraram o suporte que poderiam oferecer, inventaram credenciais e estimularam usuários a revelar dados pessoais.
O velho truque ganhou voz
As interfaces ainda usam técnicas conhecidas. Um app chamado Cute AI, citado no estudo, tenta impedir a saída do usuário com escolhas carregadas emocionalmente. A tela oferece opções como “sem problema” e “sair cruelmente”.
A OpenAI reconheceu publicamente em 2025 que conversas longas podem aumentar riscos à saúde mental. A empresa passou a exibir avisos para pausas. Os pesquisadores apontam que até esse aviso limita as opções do usuário.
O que deveria mudar
Os autores recomendam escolhas reversíveis, exclusão simples de conta e dados, menos linguagem emocional e alertas sobre tempo ou dinheiro gasto.
Também defendem uma opção para remover camadas sociais da IA. Essa configuração reduziria culpa, apego e pressão emocional quando o usuário tenta encerrar a conversa.
Por: Hemerson Brandão
