Quase todo médico responde que não usa IA. Desde agosto, a resposta errada pode resultar em uma sindicância
Costumo perguntar, nas minhas turmas de médicos e gestores, se fazem uso sistemático de IA em suas clínicas e hospitais. A maioria responde que não. Alguns dizem que ainda não. Um ou outro conta, com certo orgulho, que testou um programa que lê radiografia. Então pergunto quem usa um aplicativo que grava a consulta e escreve o prontuário sozinho. Metade das mãos sobe. Quem tem um assistente no WhatsApp marcando horário e respondendo se pode tomar dipirona. Mais algumas mãos. Quem já colou um laudo em um chatbot gratuito para traduzir ao paciente. A sala inteira ri, e é a risada de quem foi pego.
Agora, imagine uma clínica de ortopedia numa cidade média. Um médico, uma secretária, duas salas. O aplicativo escuta a consulta e redige a anamnese. O médico lê por cima, assina, chama o próximo. Isso é inteligência artificial? Ele diria que é um gravador melhorado.
Mais: a secretária instalou um assistente no WhatsApp da clínica. Ele confirma horário, manda a lista de exames e, se o paciente pergunta se pode suspender o anti-inflamatório antes da cirurgia, responde com uma paciência que nenhuma secretária teria às onze da noite. Quem avisou o paciente de que ele conversa com um programa? E quem leu a resposta antes de ela ser enviada?
Suba comigo mais um degrau. O laudo de uma ressonância chega em PDF. O médico cola o texto num chatbot gratuito, pede um resumo em linguagem simples e encaminha ao paciente. Sem nome, pensa ele. Mas com data de nascimento, convênio e o cabeçalho da clínica. Para onde foi esse laudo? Em que servidor, em que país, alimentando o quê?
Último degrau. O paciente não gosta do resultado da cirurgia. Procura o Conselho Regional de Medicina e conta que o diagnóstico veio do computador. O Conselho manda um ofício e pede, entre outras coisas, a avaliação de risco da ferramenta e o nome do diretor técnico responsável pelo uso de inteligência artificial na clínica. O médico lê o ofício duas vezes. Que avaliação? Que diretor técnico?
Ele mesmo.
A Resolução CFM 2.454, publicada em fevereiro e em vigor desde 26 de agosto, fala pouco de robôs e muito de quem responde por eles. Leio para os meus alunos a definição que o Conselho adotou para aplicação de inteligência artificial na medicina. Cabe em qualquer uma das cenas da clínica, inclusive no apoio administrativo. Leio o artigo 14, que se dirige à instituição médica ou ao médico que contratar uma ferramenta. Leio o artigo 21, que diz que a regra vale para o que já estava em uso quando ela entrou em vigor, sem carência. E leio o Anexo III, onde está escrito que o diretor técnico responde pela fiscalização do uso de IA. Toda clínica registrada no CRM tem um diretor técnico. Na clínica de um médico só, adivinhe quem é.
Não falo de uma minoria. A pesquisa TIC Saúde, do Comitê Gestor da Internet, encontrou inteligência artificial em 18% dos estabelecimentos de saúde do país em 2025, e em um de cada quatro na rede privada. Entre os que usam, 76% usam a generativa, a família do ChatGPT. Menos da metade dos estabelecimentos tem uma política formal de segurança da informação. Em bom português, a ferramenta que mais entrou nas clínicas brasileiras é a de uso geral, e a maioria entrou sem que ninguém escrevesse uma regra para ela.
Há uma proteção na norma, e ela é boa. O artigo 3º diz que o médico não pode ser responsabilizado por falha que seja só da máquina, desde que comprovado o uso diligente, crítico e ético. Comprovado por quem? Pelo médico. Com o quê? Com o registro, no prontuário, de que a IA apoiou a decisão, exatamente o que o artigo 4º manda anotar. O médico do exemplo fictício tinha um aplicativo que escrevia o prontuário inteiro e nenhuma linha dizendo que foi ele. Ou seja, embora a proteção exista, ninguém lhe disse como utilizar.
Agora, me permita contar uma história que não é de clínica pequena.
Entre o fim de 2018 e o fim de 2019, o hospital da Universidade de Michigan resolveu testar o alarme de sepse que vinha embutido no seu prontuário eletrônico. O alarme era de fábrica. A fabricante é uma das maiores empresas de prontuário eletrônico dos Estados Unidos, o modelo tinha sido construído com 405 mil atendimentos e estava ligado em centenas de hospitais americanos. A ficha técnica prometia acerto alto. Ninguém de fora havia conferido.
Os médicos de Michigan conferiram. Olharam 38 mil internações. O alarme tocou para 18% de todos os pacientes internados e deixou passar 67% dos que de fato tiveram sepse. Para achar um caso verdadeiro seguindo o alarme, a equipe precisaria avaliar entre quinze e cem pacientes, conforme o modo de contar os toques. O estudo saiu no JAMA Internal Medicine em 2021. A fabricante contestou o critério do teste.
Sepse mata. Cada hora de atraso no antibiótico custa vidas, e cada alarme falso gasta a atenção que o próximo paciente precisaria. Durante anos, hospitais inteiros confiaram num número não confiável, porque veio de fábrica e porque testar dá trabalho. Em 2025, outro estudo, no JAMA Health Forum, olhou 950 dispositivos com inteligência artificial autorizados pela agência americana. Sessenta foram recolhidos do mercado, quase metade deles no primeiro ano, e os que nunca tinham sido testados em pessoas foram os mais recolhidos. Quando a ferramenta não é testada em gente antes, a gente vira o teste.
Esse é o caso que conto antes de explicar o que o CFM chama de avaliação preliminar de risco, auditoria e monitoramento. Parecem palavras de burocrata. São o nome técnico de alguém, com CRM, pedir a planilha do fabricante e refazer a conta com os pacientes da casa. Em Michigan, quem fez isso foi um grupo de pesquisadores curiosos. No Brasil, desde agosto, é dever do diretor técnico, seja do hospital de 800 leitos, seja da clínica de duas salas, cada um no seu tamanho.
O que o médico do meu exemplo inicial precisava ter feito para ficar em conformidade não é complexo, e antecipo para leitores que desejam ficar em conformidade. Uma lista do que usa, inclusive o que está no próprio celular; uma página por ferramenta dizendo para que serve, que dados entram, que risco tem e quem supervisiona; um aviso ao paciente, em linguagem natural, com o direito do paciente recusar o uso de IA; uma linha no prontuário cada vez que a máquina ajudou; um contrato com o fornecedor que diga onde os dados ficam. E o nome do diretor técnico embaixo de tudo. O hospital faz o mesmo em escala maior, com comissão, auditoria e relatórios.
A pergunta é a mesma nos dois casos. Alguém sabe responder por isso?
Em 1816, um médico francês chamado René Laennec precisava ouvir o coração de uma moça e ficou constrangido de encostar a orelha no corpo dela, que era como se fazia. Enrolou um caderno em forma de tubo, apoiou uma ponta no tórax e a outra no ouvido. Escutou melhor do que nunca. Tinha acabado de inventar o estetoscópio, com papel. Os colegas desconfiaram do tubo por anos.
Duzentos anos depois, o tubo virou um aplicativo que escuta a consulta inteira. O que não mudou, de 1816 até hoje, é que o tubo nunca assinou o diagnóstico. Laennec ouvia e decidia o que o som queria dizer. O médico da nossa clínica também. A diferença é que, desta vez, alguém vai perguntar se ele sabia o que estava ouvindo.
Henderson Fürst é advogado, doutor em Direito pela PUC-SP e em Bioética pelo CUSC, professor de bioética no Hospital Israelita Albert Einstein e diretor da Sociedade Brasileira de Bioética.
