Chatbots ajudam a organizar ideias, metas e reflexões, mas especialistas alertam para vieses culturais, concordância excessiva e influência silenciosa sobre escolhas individuais
O uso do ChatGPT para questões pessoais, como conselhos, desabafos e até definição de metas de ano novo, tem sido cada vez mais comum. A prática, porém, levanta uma questão: conveniência tecnológica significa orientação confiável?
Especialistas em comportamento digital dizem que a resposta é ambígua – e depende muito mais do usuário do que da máquina. Ao The Guardian, Zainab Iftikhar, candidata a doutorado na Universidade Brown e cuja pesquisa examina a inteligência artificial e o bem-estar dos usuários, destaca que, no caso da definição de metas orientada por IA, isso não é inerentemente bom ou ruim.
Segundo ela, a inteligência artificial pode reduzir as barreiras à autorreflexão e ser genuinamente empoderadora para alguns e, para pessoas que se sentem presas, sobrecarregadas ou inseguras, seus lembretes “podem servir como um andaime” para expressar e compreender suas ideias.
Ziang Xiao, professor assistente de ciência da computação na Universidade Johns Hopkins, acrescentou que, se tiver acesso a informações que o usuário compartilhou ou solicitou que ela gerasse, a tecnologia será uma ferramenta eficiente para sintetizar essas informações.
Iftikhar, no entanto, salientou que existem desvantagens no uso da IA para definir metas. Como os grandes modelos de linguagem (LLMs, na sigla em inglês) – o tipo de IA que impulsiona esses sistemas – são treinados com dados gerados por humanos em larga escala, eles podem reproduzir suposições sobre sucesso, autoaperfeiçoamento e relacionamentos, ela explicou.
Além disso, os LLMs também são predominantemente treinados com texto em inglês e tendem a apresentar um viés em relação aos valores ocidentais.
Diante disso, de acordo com Iftikhar, as metas sugeridas por IA correm o risco de serem genéricas demais, reforçando “narrativas culturais dominantes em vez do que é significativo para um indivíduo específico”.
Xiao salientou que pode ser muito difícil detectar esse viés, já que os chatbots de IA podem ser persuasivos de uma forma que os indivíduos podem ter dificuldade em perceber se estão sendo influenciados a atingir objetivos inadequados.
Ele ainda apontou que, mesmo que o usuário use um modelo de IA com frequência e solicite que ele baseie suas respostas especificamente em conversas anteriores, ainda existe a possibilidade de que suas respostas incluam informações que não tenham nada a ver com o que já foi compartilhado.
Outra questão é que essas ferramentas frequentemente priorizam a concordância em detrimento da precisão; demonstram bajulação, ou seja, concordância excessiva, com os usuários, e podem refletir o viés deles.
Apesar disso tudo, Emily Balcetis, professora associada de psicologia da Universidade de Nova York, observou que a IA pode ajudar a gerar ideias para metas práticas. Ela recomendou solicitar à tecnologia que considere os obstáculos que poderá ser enfrentados ao tentar alcançar essas metas, bem como os planos de contingência que poderão ser necessários.
“Use-o como um colaborador na forma como você acompanhará seu progresso e monitorará o desempenho ao longo do processo”, indicou.
Xiao, por sua vez, recomendou analisar criticamente as respostas do chatbot e, em seguida, fornecer feedback. “Tente dar um feedback informativo e de qualidade para a IA, assim como você daria feedback para outra pessoa. Esse processo ajudará a IA a gerar uma meta mais personalizada e realista, além de ajudá-lo a considerar as coisas que você realmente deseja”, assinalou.
E ele completou: “Essas ferramentas parecem muito humanas, mas, por definição, não podem assumir a responsabilidade por suas ações”.
Por: Renata Turbiani
