Pesquisa da Cornell analisou 20 mil histórias geradas por IA e identificou que 11 palavras dominam 88% dos textos e um único nome aparece em dois terços deles
Chatbots de inteligência artificial de três das maiores empresas do setor têm um personagem fictício favorito em comum. Chama-se Elias Thorne, é faroleiro e aparece em dois terços das histórias analisadas em um novo estudo de pesquisadores da Universidade Cornell.
O padrão havia sido notado pelo engenheiro de software Daniel May, que testou diferentes modelos de IA pedindo histórias e ficou surpreso ao encontrar o mesmo nome surgindo repetidamente. O fenômeno, reportado pelo site Gizmodo, ganhou respaldo científico com um estudo de pré-publicação dos pesquisadores Sil Hamilton e David Mimno.
Um repertório criativo muito limitado
Hamilton e Mimno submeteram cinco comandos diferentes a modelos de três grandes empresas: o GPT-5.4 Mini, da OpenAI; o Claude Haiku 4.5, da Anthropic; e o Gemini 3.1 Flash-Lite, do Google. Foram analisadas cerca de 20 mil histórias geradas pelos sistemas.
Apenas 11 palavras, entre elas termos em inglês como lighthouse (farol), keeper (guardião), baker (padeiro), mayor (prefeito) e os nomes Mara, Elias e Elara, apareceram em 88% de todas as histórias. A combinação mais frequente foi Elias, o faroleiro, presente em dois terços de todo o material analisado. O que May havia observado de forma empírica tinha, portanto, confirmação estatística.
A hipótese mais intuitiva seria que esses nomes e ocupações aparecem com frequência incomum nos textos usados para treinar os modelos. Os pesquisadores investigaram essa possibilidade e a descartaram. Não há evidências de que “Elias, o faroleiro” seja uma combinação recorrente na literatura ou nos dados de pré-treinamento dos sistemas.
A explicação mais plausível, segundo o estudo, está em uma etapa posterior do desenvolvimento dos modelos: o treinamento de alinhamento. Trata-se do processo pelo qual as empresas de IA ajustam o comportamento dos sistemas para evitar conteúdos problemáticos, como personagens protegidos por direitos autorais ou histórias com conteúdo adulto.
Nesse processo, os modelos são expostos a bases de dados que se tornaram padrão na indústria. Um dos exemplos citados pelos pesquisadores é o WildChat, base de código aberto com milhões de conversas entre usuários e um chatbot baseado no GPT-3.5. Criado para ajudar pesquisadores a entender como as pessoas interagem com sistemas de IA, o WildChat acabou sendo adotado para treinar vários modelos distintos.
A teoria é que o treinamento de alinhamento, ao afastar os modelos de personagens com direitos autorais ou conteúdo sensível, conferiu destaque desproporcional a alternativas consideradas seguras, como Elias Thorne. Por ser genérico o suficiente para nunca gerar problemas, o personagem teria sido reforçado pelos sistemas ao longo do processo de treinamento.
O problema vai além da monotonia criativa. O nome Elias Thorne extrapolou os chatbots e passou a aparecer em outros contextos: como protagonista em romances de fantasia, como suposto artista em faixas de música ambiente disponíveis na Amazon e até como autor de livros, incluindo um manual que afirma oferecer informações sobre tratamentos alternativos para o câncer.
Um estudo publicado no ano passado mostrou que modelos de geração de imagens produzem composições que se encaixam em apenas 12 padrões visuais recorrentes, independentemente da complexidade ou originalidade do comando fornecido.
Por: Diogo Rodriguez
