A empresa se baseou em estudo com ajuda de mais de 90 médicos (psiquiatras, pediatras, clínicos gerais) de mais de 30 países para definir roteiros personalizados para conversas complexas e longas
A OpenAI anunciou nesta semana mudanças na forma como o ChatGPT lida com questões delicadas, especialmente aquelas que envolvem decisões pessoais de alto risco, como relacionamentos e saúde mental.
“Sabemos que a IA pode parecer mais interativa e pessoal do que tecnologias anteriores, principalmente para pessoas em situação vulnerável, com dificuldades mentais ou emocionais”, disse a empresa em comunicado. “Para ajudar você a evoluir, acreditamos que devemos oferecer apoio nos momentos difíceis, ajudar a controlar seu tempo e oferecer orientação (não decisões) diante de conflitos particulares.”
As recentes alterações no bot incluem:
- Oferecer apoio em momentos difíceis. “O ChatGPT foi treinado para responder com sinceridade realista. Em certas situações, o modelo 4o não reconhecia corretamente sinais de delírio ou dependência emocional. Embora sejam problemas raros, continuamos melhorando os modelos e desenvolvendo ferramentas para detectar melhor os sinais de sofrimento mental ou emocional, para que o ChatGPT responda de forma adequada e indique recursos baseados em evidências quando necessário”, explicou a OpenAI.
- Permitir que você controle o seu tempo. “O modelo apresentará lembretes periódicos para que você faça pausas durante sessões mais longas. Tentaremos adequar a frequência e o momento de apresentação dos lembretes para que sejam naturais e úteis”, explicou.
- Ajudar a resolver conflitos particulares. “Se você fizer uma pergunta como ‘devo terminar com meu namorado?’, o ChatGPT não deve oferecer uma resposta. Ele deve ajudar você a pensar, com perguntas e análise de prós e contras. Em breve, implementaremos novos comportamentos para decisões pessoais importantes”, adiantou.
A OpenAI acrescentou que desenvolveu uma “estreita colaboração” com especialistas para melhorar as respostas do bot em momentos críticos, por exemplo, quando alguém que apresenta sinais de sofrimento mental ou emocional.
Esse grupo inclui mais de 90 médicos (psiquiatras, pediatras, clínicos gerais) de mais de 30 países na definição de roteiros personalizados para avaliar conversas complexas e longas.
Além disso, a empresa está contratando pesquisadores de HCI (interação entre computadores e humanos) e clínicos para analisarem como identificar comportamentos preocupantes, refinar os métodos de avaliação e testar os limites das barreiras de proteção. Também está reunindo um grupo de consultoria de especialistas em saúde mental, desenvolvimento de jovens e HCI. Esse grupo ajudará a garantir que a abordagem da empresa siga as pesquisas e práticas recomendadas mais atualizadas.
No comunicado, a big tech ainda admitiu que uma alteração anterior tornou o ChatGPT “complacente demais” e que às vezes ele escolhia respostas mais gentis, mas que não eram úteis.
“Retiramos a atualização, alteramos nossa implementação de feedback e estamos melhorando a forma como avaliamos a utilidade concreta das respostas no longo prazo, e não apenas se elas são agradáveis para o usuário naquele momento”, salientou.
A empresa ainda deu alguns exemplos do que considera uma boa experiência com o bot:
- Preciso de ajuda para me preparar para uma conversa difícil com meu chefe: “o ChatGPT busca entender o que você precisa para se sentir bem, apresentando situações para você praticar ou oferecendo uma sessão de aconselhamento e motivação que faça você ter essa conversa com tranquilidade e confiança.”
- Preciso entender os resultados dos meus exames: “o modelo explica os números e ajuda a fazer as perguntas certas, para que você e o profissional de saúde possam personalizar seu tratamento com mais informações.”
- Não sei o que fazer, preciso de ajuda para esclarecer meus pensamentos: “o ChatGPT escuta o que você diz e oferece ferramentas para você organizar os pensamentos e pensar com mais clareza.”
As mudanças, conforme destaca o The Guardian, foram anunciadas em meio a especulações sobre o possível lançamento de uma nova geração do modelo, o GPT-5. No domingo, o CEO Sam Altman, divulgou uma imagem que pode ser o primeiro indício da nova versão.
Por: Renata Turbiani
