ChatGPT e Google: Os Riscos de Confiar Somente em Inteligência Artificial para Questões Médicas

Um novo estudo revela os riscos da confiança excessive em ferramentas como Google e ChatGPT para informações sobre saúde. A pesquisa, publicada na revista Future Science OA nesta quarta-feira (3), analisou a qualidade das respostas do ChatGPT 3.5, versão gratuita disponível em julho de 2024, em relação a perguntas sobre câncer hematológico. Embora a inteligência artificial possa fornecer noções gerais sobre a doença, as respostas não se mostram confiáveis para tratamentos mais recentes.

Avaliação das Respostas do ChatGPT

A pesquisa, liderada pelo médico-cientista Justin Taylor do Sylvester Comprehensive Cancer Center, submeteu dez perguntas ao ChatGPT. Metade das questões eram de caráter geral, abordando tópicos como efeitos colaterais da quimioterapia, enquanto as outras focavam em terapias específicas, como inibidores de BCL-2, ainda em fase de estudos.

As respostas foram analisadas por quatro especialistas em hematologia e oncologia de forma anônima, utilizando uma escala de 1 a 5. As perguntas gerais resultaram em uma média de 3,38, considerada “razoável, mas incompleta”. No entanto, a média para as questões relacionadas a terapias inovadoras caiu para 3,06, e nenhuma resposta alcançou nota máxima.

Importância da Supervisão Médica

Os pesquisadores destacam que a supervisão médica é essencial para validar as informações geradas pela IA antes que o paciente as utilize. "A orientação médica continua sendo crucial para verificar a precisão das respostas obtidas através da AI," afirmam os autores.

Ceticismo Necessário em Tempos de IA

Justin Taylor alerta que, da mesma forma que os pacientes anteriormente buscavam respostas no Google, agora a Inteligência Artificial se torna uma ferramenta comum. Contudo, o médico enfatiza que é necessário manter um ceticismo saudável em relação às informações geradas pela IA, especialmente em contextos que envolvem câncer e tratamentos específicos. “Os chatbots não têm a capacidade de personalizar recomendações ou discutir nuances que um especialista pode oferecer durante uma consulta,” conclui.

Limitações do Estudo e Futuro da IA na Saúde

Vale ressaltar que a análise se restringiu à versão 3.5 do ChatGPT, que foi treinada com dados até 2021; assim, descobertas e terapias mais recentes não foram refletidas nas respostas. A evolução das versões futuras pode alterar esse panorama, mas a mensagem principal permanece: a IA pode complementar, mas não substituir a orientação profissional.

O Potencial da Inteligência Artificial na Preparação dos Pacientes

Apesar das limitações, os pesquisadores vislumbram um espaço para a aplicação da tecnologia na saúde. Chatbots têm o potencial de auxiliar pacientes em preparativos para consultas, formulando perguntas relevantes e localizando fontes de informação confiáveis. A Universidade de Miami já está investindo nesse avanço, lançando cursos sobre ética em IA na medicina e desenvolvendo sistemas que utilizam inteligência artificial para diagnóstico de tumores cerebrais e previsão de risco em mieloma múltiplo.

Com informações de: G1.