Você deve confiar em conselhos de saúde de chatbots?

Cada vez mais pessoas estão recorrendo à inteligência artificial (IA) para ajudá-las em suas vidas diárias e carreiras. ChatGPT é uma das ferramentas de IA mais populares e amplamente conhecidas. Ele fornece respostas razoáveis ​​e relevantes para qualquer pergunta, gratuitamente.

Há muito potencial para ferramentas de IA generativa ajudarem as pessoas a aprender sobre sua saúde. Mas a resposta nem sempre é correta. Confiar somente no ChatGPT para obter conselhos sobre saúde pode ser muito arriscado e causar preocupações desnecessárias.

A IA generativa ainda é uma tecnologia relativamente nova e em constante mudança. A pesquisa mais recente fornece os primeiros dados australianos sobre quem está usando o ChatGPT para responder perguntas de saúde e para quais propósitos.

Os resultados podem ajudar as pessoas a aprender como usar essa nova tecnologia para a saúde e as novas habilidades necessárias para usá-la com segurança — em outras palavras, para desenvolver “ alfabetização em saúde por IA ”.

Quem usa o ChatGPT para perguntar sobre saúde? O que eles perguntam?

Em junho de 2024, o estudo perguntou a mais de 2.000 australianos se eles usavam o ChatGPT para responder perguntas sobre saúde. Uma em cada dez pessoas (9,9%) fez uma pergunta sobre saúde ao ChatGPT no primeiro semestre de 2024. Em média, elas relataram confiança “bastante” no ChatGPT (3,1 de 5).

O estudo também descobriu que a proporção de pessoas que usam o ChatGPT para perguntar sobre saúde era maior entre aquelas com baixa alfabetização em saúde, nascidas em um país onde o inglês não é a língua oficial ou que falavam outro idioma em casa.

Isso mostra que o ChatGPT pode ajudar pessoas que têm dificuldade de acessar formas tradicionais de informações de saúde na Austrália.

As perguntas mais comuns que as pessoas fazem ao ChatGPT estão relacionadas a:

• Aprenda sobre o estado de saúde (48%)
• Compreendendo o significado dos sintomas (37%)
• Pergunte sobre ações (36%) ou entenda terminologia médica (35%).

Mais da metade (61%) fez pelo menos uma pergunta que exigiu orientação de um exame clínico. Essas perguntas são do tipo "mais arriscado". Perguntar ao ChatGPT o que seus sintomas significam pode ajudar a lhe dar uma ideia aproximada, mas não substitui o aconselhamento clínico.

Pessoas nascidas em um país onde o inglês não é a língua oficial ou que falam outro idioma em casa são mais propensas a fazer esse tipo de pergunta.

Por que isso é importante?

O número de pessoas que usam IA para obter informações de saúde provavelmente aumentará. No estudo, 39% das pessoas que ainda não usaram o ChatGPT para obter informações de saúde considerariam usá-lo nos próximos seis meses.

O número total de pessoas que usam ferramentas de IA generativa para obter informações de saúde é ainda maior se você considerar outras ferramentas como Google Gemini, Microsoft Copilot e Meta AI.

Notavelmente, neste estudo, a equipe de cientistas descobriu que pessoas de comunidades cultural e linguisticamente diversas podem ser mais propensas a usar o ChatGPT para obter informações sobre saúde.

Se eles pedirem ao ChatGPT para traduzir informações de saúde, isso adicionará outra camada de complexidade. Ferramentas de IA generativa geralmente são menos precisas em outros idiomas.

Precisamos investir em serviços (humanos ou de máquina) para garantir que falar outro idioma não seja uma barreira para informações de saúde de alta qualidade.

Como é o "conhecimento de saúde da IA"?

A inteligência artificial (IA) apresenta oportunidades e riscos para aqueles que a utilizam para encontrar informações de saúde.

Por um lado, essa tecnologia atrai pessoas que já enfrentam barreiras significativas no acesso a cuidados de saúde e informações sobre saúde. Um dos seus principais benefícios é a capacidade de fornecer informações de saúde de forma instantânea e fácil de entender.

Uma revisão recente de estudos descobriu que ferramentas de IA generativa são cada vez mais capazes de responder a perguntas gerais de saúde em linguagem simples, embora sejam menos precisas em tópicos de saúde complexos.

Isso tem benefícios óbvios porque a maioria das informações de saúde é escrita em um nível muito complexo para a população em geral, mesmo durante uma pandemia.

Por outro lado, as pessoas estão recorrendo a ferramentas de IA multifuncionais para obter conselhos sobre saúde. Isso é mais arriscado para perguntas que exigem exame clínico e uma compreensão mais profunda do paciente.

Houve muitos estudos de caso mostrando os perigos de usar ferramentas de IA de uso geral para decidir se deve ou não ir ao hospital.

Precisamos ajudar as pessoas a pensar cuidadosamente sobre os tipos de perguntas que estão fazendo às ferramentas de IA para obter conselhos e conectá-las aos serviços certos que podem responder a perguntas de saúde arriscadas.

Este artigo foi traduzido e resumido do The Conversation sob uma licença Creative Commons.