Hospital vira “cobaia” da IA; médicos estão preocupados

O Hospital Mount Sinai, nos EUA, vem sendo usado como “cobaia” da inteligência artificial (IA) por meio de alguns aparatos que, enquanto mostram potencial para uns, deixam alguns médicos e enfermeiros preocupados com o custo que ela pode trazer.

Um exemplo disso é o que aconteceu com Bojana Milekic, médica de cuidados críticos do hospital, que, a cada dia, verifica em seu computador o nome de cada paciente seu, buscando a pontuação de cada um – gerenciada por IA – que aponta aqueles que podem morrer.

Leia mais:

Certo dia, em maio, ela notou que um paciente de 74 anos com problemas pulmonares estava com pontuação .81, sendo que o valor máximo é de .64.

Contudo, ele não parecia estar com dores, mas se agarrou à mão de sua filha. Foi então que Milekic notou que um tubo conectado aos pulmões do paciente estava retendo fluído, diminuindo a oxigenação no sangue do idoso. Após a “simples intervenção”, a oxigenação do homem se estabilizou. Se não fosse o software no computador da médica, talvez ela não soubesse da condição.

Testando a tecnologia na saúde

Isso mostra o potencia da IA na medicina, como já vemos há tempos. O Mount Sinai está entre os hospitais de elite dos EUA que tem gasto centenas de milhões de dólares para implantar softwares de IA e instrução adequada, de modo que essas instituições viraram laboratórios da tecnologia.

A animação da chefia desses hospitais com a IA se baliza, por exemplo, em recente estudo, que indicou que leituras de mamografias realizadas pela tecnologia detecta 20% a mais de cânceres de mama do que os radiologistas, além, é claro, da convicção de que a IA é o futuro da medicina mundial.

Os pesquisadores também vêm trabalhando na tradução da IA generativa – aquela que suporta o ChatGPT, Bard, e tantos outros chatbots que surgiram desde o ano passado – para a configuração hospitalar.

• Segundo o The Washington Post, o Mount Sinai, por exemplo, implantou grupo de especialistas na tecnologia para desenvolver ferramentas médicas internas, às quais médicos e enfermeiros da instituição já estão testando nos cuidados clínicos;
• Softwares de transcrição auxiliam no preenchimento da papelada, enquanto os chatbots auxiliam no preenchimento do resumo das condições clínicas dos pacientes.

IA e medicina: namoro é antigo

Os hospitais vêm flertando com a IA por décadas. Já nos anos 1970, pesquisadores da Universidade de Stanford criaram sistema rudimentar de IA que perguntava aos médicos sobre sintomas de um paciente e, a partir delas, dava um diagnóstico com base em banco de dados com infecções conhecidas à época.

Nos anos 1990 e no início dos anos 2000, algoritmos de IA começaram a decifrar padrões complexos em raios-x, tomografias computadorizadas e imagens MRIs para encontrar anormalidades que o olho humano pode não detectar.

Anos depois, robôs equipados com visão via IA começaram a operar ao lado de cirurgiões humanos. Com o advento dos registros médicos eletrônicos, as empresas implementaram algoritmos que escaneavam dados-chave do paciente para encontrar tendências e comorbidades com certas doenças, recomendando assim tratamentos ideais para cada caso.

Conforme a computação foi ficando mais e mais desenvolvida e empoderou a IA, os algoritmos saíram da identificação de tendências para prever se um paciente em particular sofreria de alguma doença no futuro. O engrandecimento da IA generativa criou ferramentas que imitam mais detalhadamente o cuidado ao paciente.

Outros testes

Em março, o sistema de saúde da Universidade do Kansas começou a usar chatbots médicos para automatizar notas clínicas e conversas médicas.

Por sua vez, a clínica Mayo, em Minnesota, vem utilizando um chatbot do Google treinado em perguntas do exame de licenciamento de médicos, chamado Med-Pal 2, de modo a gerar respostas a questões de cuidados com a saúde, sumarizar documentos clínicos e organizar dados.

Preocupação política

Muitos desses produtos já estão sob os olhos dos políticos. O senador estadunidense Mark R. Warner, na terça-feira (8), pediu cautela no lançamento de Med-Palm 2, citando repetidas incongruências em carta enviada ao Google.

Enquanto a inteligência artificial (IA) sem sombra de dúvidas possui tremendo potencial para melhorar cuidados ao paciente e resultados de saúde, me preocupo de que implantações de tecnologias não-testadas poderia levar à ruptura da confiança em nossos profissionais médicos e instituições.

Mark R. Warner, senador dos EUA, em carta enviada ao Google

Por sua vez, Thomas J. Fuchs, reitor de IA na Escola de Medicina Icahn do Mount Sinai, afirmou ser imperativo que hospitais de pesquisa, que possuem físicos e pesquisadores pioneiros, ajam como laboratórios para testar a tecnologia.

O Mount Sinai tomou a premissa literalmente, gastando mais de US$ 100 milhões (R$ 489,3 milhões) entre filantropia privada, construção de centros de pesquisa e instalações computacionais internas.

Tudo isso permite aos programadores a criarem ferramentas de IA do próprio hospital que podem ser refinadas com base na entrada de dados médicos, usados em seus hospitais e, ainda, ser enviados para locais que não possuem dinheiro para realizar pesquisas semelhantes.

Você não pode transplantar pessoas, mas você pode transplantar conhecimento e experiência até certo ponto com esses modelos que podem auxiliar os médicos da comunidade.

Thomas J. Fuchs, reitor de IA na Escola de Medicina Icahn do Mount Sinai

Contudo, Fuchs alerta que, hoje, a IA na medicina “é uma grande moda” e “mais startups do que você pode contar que… gostam de evangelizar em graus, às vezes, absurdos” sobre os poderes revolucionários que a tecnologia pode trazer à medicina.

Ele se preocupa que elas podem criar produtos que podem fazer diagnósticos enviesados ou colocar os dados do paciente em risco. Regulações federais de peso, com supervisão médica, é primordial, diz.

Já o presidente do Hospital Mount Sinai e Mount Sinai Queens, David L. Reich, afirmou que seu hospital já vinha querendo usar a IA mais amplamente há anos, mas que a pandemia de Covid-19 atrapalhou os planos.

Enquanto chatbots generativos se tornam cada vez mais populares, a equipe de Reich foca mais no uso de algoritmos. Médicos de cuidados críticos, estão testando softwares preditivos para identificar pacientes com risco de incidentes, como sepse ou queda (esse é o tipo de software usado por Milekic).

Já os radiologistas usam a IA para conseguirem identificar de forma mais precisa o câncer de mama. Os nutricionistas, por sua vez, fazem uso da tecnologia para marcar os pacientes com probabilidade de estarem desnutridos.

Reich pontual que seu maior objetivo não é substituir os profissionais da saúde, mas, sim, algo mais simples: garantir o médico certo para o paciente que necessita dele no tempo certo.

Mas nem todos pensam assim…

Contudo, há alguns profissionais que não estão tão confortáveis assim com as novas tecnologias.

• Os avanços não estão despertando somente empolgação; também despertam tensão entre o pessoal da linha de frente, muitos deles temendo que a tecnologia venha com enorme custo para os humanos;
• A preocupação é que a tecnologia dê diagnósticos equivocados, vaze dados sensíveis dos pacientes e se torne uma desculpa para convênios médicos e hospitais para cortar postos de trabalho em nove da inovação e eficiência;
• Muitos deles afirmam que o software não pode fazer o trabalho de um médico ou enfermeiro.

Se acreditamos que, em nossos momentos mais vulneráveis… queremos alguém para nos dar atenção, então, precisamos ser muito cuidadosos neste momento.

Michelle Mahon, diretora-assistente de práticas de enfermagem na União Nacional dos Enfermeiros dos EUA

Mahon continua, dizendo que há poucas evidências empíricas que demonstram que a IA está melhorando os cuidados aos enfermos.

Fazemos experimentos neste país, usamos os testes clínicos, mas, por alguma razão, essas tecnologias […] estão sendo propagadas como superiores, como sempre presentes, e outros tipos de coisas que simplesmente não se comprovam em sua utilização.

Michelle Mahon, diretora-assistente de práticas de enfermagem na União Nacional dos Enfermeiros dos EUA

Apesar de a IA poder canalizar dados-chave de pacientes e prever quão doente uma pessoa possa estar, Mahon vê que, às vezes, os algoritmos podem se enganar. Enfermeiros veem além dos sinais vitais do paciente, ela argumenta. Eles veem como um paciente está de aparência, sente odores incomuns de seus corpos e podem usar esses dados de pontos biológicos como predileções de que algo está errado. “A IA não pode fazer isso”, pontuou.

Alguns médicos entrevistados pela Universidade Duke em maio via questionário expressaram suas reservas sobre como os modelos de IA podem exacerbar problemas existentes com cuidados, incluindo vieses.

“Não acho que vamos sequer ter bom entendimento sobre como medir o desempenho de um algoritmo, muito menos em diferentes raças e etnias”, um dos entrevistados afirmou. A pesquisa envolveu, por exemplo, a Clínica Mayo, Kaiser Permanente e a Universidade de Califórnia São Francisco.

Em época de severa escassez de enfermeiros, Mahon argumentou que a empolgação dos administradores hospitalares para incorporar a tecnologia é menos sobre resultados do paciente e mais sobre “tapar buracos” e cortar custos.

“A indústria [de cuidados à saúde] está ajudando as pessoas a comprarem toda a excitação”, afirmou, “para que possam reduzir seu trabalho sem questionamentos”.

Robbie Freeman, vice-presidente de experiência digital do Mount Sinai, afirmou que as maiores partes de se implantar a IA nos hospitais são os médicos e enfermeiros. “Você vem trabalhar por 20 anos e faz isso de uma forma, e, agora, estamos pedindo para fazerem de outra”, afirmou.

Erros e acertos

Além disso, a IA nem sempre é um método confiável para ganhar tempo. Quando Rebecca Brown, 45, foi sinalizada como uma das pacientes mais doentes no centro de cuidados críticos do Mount Sinai, Milekic foi examiná-la.

Rapidamente, a médica notou que nada estava fora do normal e deixou Brown comendo sua manteiga de amendoim e sanduíche de geleia. Quando perguntada se ela gostaria que a IA cuidasse dela ao invés de um médico, ela respondeu de forma direta e simples:

“Há algo que a tecnologia nunca será, que é ser humano. Espero que o toque humano nunca seja substituído.”

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!