Aron Hussid Ferreira — médico, pesquisador e professor da USP
Algoritmos de inteligência artificial (IA) já leem exames de imagem, sugerem diagnósticos e organizam filas de atendimento em hospitais brasileiros. Um programa analisa uma tomografia em segundos e sinaliza uma lesão que poderia escapar ao olho cansado de um plantonista na madrugada. É uma promessa que tem encantado gestores e pacientes.
Mas e quando o programa erra? Pense num sistema que classifica como benigno um nódulo que era maligno. O paciente volta meses mais tarde, sem chance de cura. Quem responde por esse desfecho? O médico que confiou na ferramenta? O hospital que a comprou? A empresa que vendeu o código? O programador que treinou o modelo com dados incompletos?
- Leia também: Olhos destreinados e um brasiliense extraordinário
Em fevereiro deste ano, o Conselho Federal de Medicina publicou a Resolução nº 2.454, que normatiza o uso da IA na medicina e passa a valer em 26 de agosto. O texto tem muitos méritos. Ele classifica os sistemas de IA por grau de risco e proíbe que se delegue à máquina a comunicação de um diagnóstico, além de vedar que hospitais punam o médico que discordar do algoritmo. Mas o profissional segue como responsável final pela conduta. Faz certo sentido, porque a decisão clínica precisa de alguém que a assuma. E, ao mesmo tempo, há algo de desonesto em jogar toda a culpa sobre quem está na ponta, diante de uma máquina vendida como confiável e movida por uma lógica que ninguém explica direito.
Esse é o nó complicado de desatar. Boa parte desses sistemas funciona de tal forma que nem seus criadores sabem ao certo por que eles chegaram à determinada conclusão. São trilhões de parâmetros envolvidos na tomada de uma decisão. Exigir que um radiologista audite linha por linha um modelo de aprendizado profundo seria o mesmo que pedir para ele desmontar o tomógrafo antes de cada laudo. Há ainda um outro detalhe pouco lembrado: boa parte desses sistemas foi treinada em populações estrangeiras, que não se parecem com quem chega aos hospitais brasileiros, e o desempenho cai quando muda o perfil de quem está na maca.
Existe uma alternativa em vigência, o chamado human-in-the-loop, ou seja, o humano mantido no circuito de decisão. O sistema processa, calcula, recomenda, mas a palavra final fica com uma pessoa, que pode confirmar ou descartar o que a máquina propôs. O perigo mora em reduzir esse humano a um carimbo. Estudos sobre viés de automação mostram que o profissional exausto tende a aceitar a sugestão da tela sem questionar, ainda mais quando ela costuma acertar. Supervisão que vira formalidade não protege ninguém.
E o paciente, ele sabe que uma inteligência artificial participou do seu atendimento? A mesma resolução do CFM diz que ele deve ser informado. Na prática, raramente é avisado. Ele confia no nome que assina seu laudo ou sua receita, sem imaginar quantas camadas de software vieram antes.
Nos Estados Unidos, a OpenAI, empresa responsável pelo ChatGPT, lançou o ChatGPT for Healthcare, prometendo apoiar o raciocínio cuidadoso e baseado em evidências, além de reduzir a carga administrativa das equipes para que possam dedicar mais tempo aos pacientes. E isso não é ficção, já vem sendo implementado por pelo menos oito grandes instituições de referência, como o Boston Children's Hospital e o Memorial Sloan Kettering Cancer Center. Em abril a empresa foi mais além e liberou uma versão gratuita para médicos, enfermeiros e farmacêuticos. Sem uma instituição intermediando, sem contrato e sem auditoria, a questão da responsabilização fica ainda mais séria.
- Leia também: Direito como arma de guerra e as tarifas americanas
Focamos aqui na área da saúde, mas o mesmo vem acontecendo no direito, na administração, na economia, e assim por diante. A tecnologia não deve ser proibida nem solta de forma desenfreada. Na Europa, a IA médica já é tratada como produto de alto risco, com rastreabilidade obrigatória e responsabilidade dividida entre fabricante e usuário. O CFM caminhou nessa direção, mas esbarra num limite óbvio. Um conselho de medicina regula médicos, não fabricantes de software. No Congresso, o PL 2338/2023 é o principal projeto de lei que propõe um marco regulatório para o desenvolvimento e uso da IA no Brasil. A matéria já foi aprovada pelo Senado Federal, mas o texto segue em tramitação na Câmara dos Deputados.
O algoritmo merece o mesmo tratamento de um médico residente brilhante, mas afobado: ajuda muito, escorrega às vezes, e nunca substitui quem conhece o paciente como pessoa. A máquina sugere. A conta, por ora, ainda chega para gente de carne e osso. Já passou da hora de decidir quem mais deveria recebê-la.
Saiba Mais
Opinião
Opinião
Opinião
