ChatGPT falha ao recomendar tratamento contra o câncer

Tudo sobre ChatGPT

Tudo sobre Inteligência Artificial

A inteligência artificial já se provou uma aliada na luta contra diferentes doenças. Mas a tecnologia ainda precisa de ajustes quando o assunto é câncer. É o que aponta um estudo publicado na revista JAMA Oncology. Segundo os pesquisadores, respostas do ChatGPT misturaram recomendações inadequadas e corretas de tratamento da doença.

Leia mais

ChatGPT: tratamento incorreto e difícil de entender

• Os pesquisadores destacaram os perigos à saúde envolvidos na adoção de planos de tratamentos equivocados.
• “O ChatGPT fala muitas vezes de uma maneira muito segura que parece fazer sentido, e a maneira como ele pode misturar informações incorretas e corretas é potencialmente perigosa”, alertou Danielle Bitterman, oncologista e coautora do estudo.
• Ela ainda apontou que “é difícil até para um especialista identificar qual é a recomendação incorreta”.

12% das respostas da IA estão completamente equivocadas

• Segundo o estudo, embora quase todas as respostas do ChatGPT incluíssem pelo menos uma recomendação de acordo com as diretrizes da Rede Nacional Integral de Câncer dos EUA, cerca de um terço delas também continha sugestões incorretas.
• Cerca de 12% das respostas ainda apresentavam recomendações que não estão em nenhum lugar nas diretrizes de combate ao câncer, de acordo com reportagem da Bloomberg.
• A pesquisa ainda destaca que o uso de ferramentas como o ChatGPT obtém melhores resultados na identificação do câncer, mas ainda peca na elaboração de tratamentos para a doença.
• Segundo os pesquisadores, os médicos estão esperançosos de que a inteligência artificial possa ajudar aliviar as cargas administrativas da profissão, mas as preocupações com a precisão e a privacidade significam que grandes modelos de linguagem como o ChatGPT estão a anos de serem amplamente adotados em consultórios médicos e hospitais.
• Para eles, é como se a ferramenta tivesse tido aulas do curso de medicina, mas não tivesse frequentado a residência médica, essencial para a atuação no ramo.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!