Algoritmos de inteligência artificial são utilizados em instalações médicas para guiar decisões de profissionais de saúde
Um algoritmo de inteligência artificial chamado Sepsis Watch, desenvolvido pela Universidade Duke, nos EUA, está sendo utilizado para identificar pacientes com risco de desenvolver sepse. O sistema começou a operar em 2018, depois de aproximadamente três anos de desenvolvimento.
Conforme revelado pelo portal The Verge, o Sepsis Watch funciona coleta e processa dados de indivíduos internados para calcular a probabilidade de desenvolvimento da sepse. A condição é caracterizada por inflamação generalizada no corpo que pode ser fatal quando não identificada precocemente.
Para cada paciente monitorado, o sistema gera uma pontuação entre 0 e 1, indicando a probabilidade de sepse naquele momento específico.
A tecnologia se insere no contexto atual da medicina, onde algoritmos de IA estão cada vez mais presentes. Atualmente, a solução baseada em inteligência artificial é usada para prever o desenvolvimento de doenças, auxiliar médicos na identificação de casos graves e analisar exames de imagem.
Como o sistema funciona na prática
O algoritmo monitora continuamente os pacientes internados nos hospitais da Duke. Em um paciente com 60 anos hospitalizado com uma infecção e doença renal preexistente, por exemplo, o sistema coleta dados como idade, condições médicas e medicamentos em uso.
Quando existem lacunas nas medições, como níveis de glicose verificados apenas em horários específicos, o algoritmo utiliza um método matemático chamado processo gaussiano para preencher os valores faltantes. Além disso, para cada análise realizada às 22h, por exemplo, o sistema considera não apenas as medições atuais, mas também o histórico recente.
Após processar todos esses dados por meio de uma complexa sequência de algoritmos, a rede neural gera uma pontuação que indica a probabilidade do paciente estar com sepse. Quanto mais próxima de 1 for essa pontuação, maior a probabilidade da condição estar presente.
Desafios e transparência no uso da IA
Alguns aspectos do funcionamento do Sepsis Watch ainda são uma “caixa preta”, incompreensíveis até mesmo para seus desenvolvedores. A matemática envolvida pode ser tão complexa que apenas cientistas de dados conseguem compreender completamente seu funcionamento.
Mark Sendak, cientista de dados do Instituto de Inovação em Saúde da Duke, reconhece que existe apreensão por parte dos pacientes. Além disso, ele admite que algumas pessoas realmente não confiam e temem os algoritmos utilizados em ambientes hospitalares.
Para o cientista essa preocupação está relacionada ao uso de dados pessoais ou ao receio de que computadores estejam direcionando os cuidados médicos.
Suresh Balu, diretor de programa do Instituto de Inovação em Saúde da Universidade Duke, ressalta que, apesar da tecnologia, a decisão final permanece com os profissionais de saúde. “Nesse nível”, explica Balu, “você depende do julgamento clínico e da experiência clínica”
Para Sendak, a transparência é fundamental no desenvolvimento e implementação desses sistemas: “É importante ter avaliações e validações rigorosas. E ter transparência — sobre os dados, sobre o desempenho e sobre os pontos fortes e fracos.”
Por: Vinicius Marques
