Quando o médico e a inteligência artificial decidem juntos, quem responde pelo erro?
A inteligência artificial já está sendo utilizada para interpretar exames, identificar alterações, organizar informações clínicas, sugerir diagnósticos e apoiar decisões terapêuticas. À medida que esses sistemas se tornam mais autônomos, surge um dilema que ainda não foi resolvido: quem deve ser responsabilizado quando uma recomendação da IA causa dano ao paciente?
Um artigo publicado na revista Nature propõe uma classificação em 7 níveis, de acordo com o papel desempenhado pela IA. Nos níveis mais baixos, ela apenas organiza dados ou emite alertas que precisam ser avaliados pelo profissional. Nos níveis mais elevados, o sistema passa a analisar informações, formular conclusões e até executar determinadas ações com menor participação humana.
Na teoria, ainda estamos acostumados a afirmar que a decisão final continua sendo do médico. Mas essa resposta pode ser simplista demais. Como exigir que o profissional valide uma conclusão produzida por um sistema complexo, treinado com milhões de dados e cujo raciocínio muitas vezes não pode ser plenamente explicado? Manter um médico apenas para confirmar a resposta de uma máquina pode representar supervisão de verdade ou apenas uma forma de transferir a responsabilidade jurídica do computador para o humano?
O dilema aparece nos dois sentidos. Se o médico seguir a recomendação da IA e o paciente sofrer um dano, poderá ser responsabilizado por não ter identificado o erro. Se ignorar uma recomendação correta e o desfecho também for desfavorável, poderá ser acusado de não ter utilizado adequadamente a tecnologia disponível.
A responsabilidade ainda envolve o hospital que adquiriu o sistema, a empresa que o desenvolveu, os profissionais que forneceram os dados, os órgãos que autorizaram seu uso e quem definiu os limites de sua aplicação.
Talvez o maior risco não seja a IA substituir o médico, mas criar um ambiente em que todos participam da decisão e, quando algo dá errado, ninguém assume integralmente a responsabilidade.
Eu me pergunto: estamos introduzindo inteligência artificial para ampliar a capacidade clínica do médico ou para criar uma autoridade tecnológica que ele deverá obedecer, mesmo sem conseguir compreender ou questionar completamente?
Talvez nosso maior desafio seja distinguir supervisão humana efetiva de uma presença humana meramente formal, usada para validar decisões automatizadas e concentrar no médico uma responsabilidade que deveria ser distribuída entre toda a cadeia tecnológica e institucional.
https://t.co/L3CL6rffzy
@leitorpsique Ele descreve alguém com TDAh (predomínio déficit de atenção), TDaH (predomínio hiperativo) é diferente, e bem mais divertido ;)
Mas também tem que viver 5 minutos de cada vez ;)
Acaba de ser publicado, na revista Direito em Movimento, da EMERJ, meu artigo “Tecnofascismo: o autoritarismo algorítmico e a usurpação da legitimidade democrática”.
O artigo está disponível em:
https://t.co/ywndWS4R0S
El médico que descubrió una enfermedad completa... y sus colegas intentaron destruirlo 🦟💔
Esta es la fascinante historia del médico e investigador brasileño Carlos Chagas, la única persona en la historia de la medicina que logró una hazaña científica perfecta: describir por completo una nueva enfermedad infecciosa.
A principios del siglo XX, en las zonas rurales del interior de Brasil, miles de personas padecían una misteriosa dolencia caracterizada por insuficiencia cardíaca progresiva, agrandamiento de órganos y muerte prematira. Nadie sabía qué la causaba.
En 1909, mientras trabajaba en la erradicación de la malaria en Minas Gerais, el Dr. Carlos Chagas resolvió el rompecabezas médico en un logro sin precedentes:
El "Triplete de Chagas"
En un solo trabajo de investigación, Chagas identificó:
El patógeno: El parásito protozoo Trypanosoma cruzi (al que nombró en honor a su mentor, Oswaldo Cruz).
El vector: El insecto transmisor conocido como vinchuca, chinche picuda o barbeiro.
El cuadro clínico: El mecanismo de transmisión y todas las manifestaciones clínicas en seres humanos.
Nunca antes —ni después— un solo científico había descubierto el agente, el transmisor y la enfermedad completa de forma individual.
El precio del celo profesional
Un logro de tal magnitud debió asegurarle un lugar de honor indiscutible en la historia científica mundial. Sin embargo, el enemigo más feroz de Chagas no fue el parásito, sino la envidia.
Cuando su trabajo comenzó a ganar reconocimiento internacional, un sector de la comunidad médica brasileña y la propia Academia Nacional de Medicina desataron una feroz campaña de descrédito contra él:
Cuestionaron la existencia de la enfermedad y la veracidad de sus descubrimientos.
Alegaron que los síntomas eran causados por el bocio endémico o la desnutrición, intentando ridiculizar su trabajo en la prensa.
Su propio país le bloqueó el apoyo institucional necesario cuando fue nominado dos veces al Premio Nobel de Fisiología o Medicina (en 1913 y 1921), impidiendo que se le otorgara el galardón
A pesar de la hostilidad de sus pares, Chagas jamás abandonó su compromiso con la salud pública de las poblaciones más vulnerables e ignoradas de América Latina.
Un legado que salvó al continente
Hoy en día, la Enfermedad de Chagas afecta a millones de personas en todo el mundo, pero los métodos de control vectorial y diagnóstico derivados del trabajo de Carlos Chagas han salvado incalculables vidas a lo largo de las décadas.
Falleció en 1934 a los 55 años, dejando una lección imborrable: la verdadera grandeza científica no busca el aplauso de las élites, sino el bienestar de quienes más lo necesitan.
¿Conocías la historia del único médico que descubrió una enfermedad de principio a fin?
Ayúdanos a rescatar su legado del olvido: comparte esta publicación para que más personas conozcan la historia de los verdaderos héroes de la salud pública. 📲
Cronologia de um desastre na publicação científica:
1. Um grupo de pesquisadores holandeses submeteu o estudo que analisava o excesso de óbitos durante a pandemia ao BMJ Public Health. Isto foi em junho de 2023
2. O estudo foi aceito em março de 2024 e publicado 3 meses depois
3. Eu percebi na hora do que se tratava: um estudo que se fingia de quantitativo, mas, no fundo, era um amontoado de inferências qualitativas associando vacinas ao excesso de óbitos - sem que os números comprovassem isto.
4. Onze dias depois da publicação, o BMJ publicou um "expression of concern" falando do óbvio: a parte quantitativa não era dos próprios autores (só reproduziram conteúdo do OWID) - portanto já não tinha originalidade/estofo. Para piorar, eles inferiam a causalidade com vacinas (com base em vozes da cabeça, porque o estudo simplesmente não embasava isto)
5. Agora, em 11 de agosto de 2026, após uma longa série de conversas com os autores, o BMJ retirou a publicação do estudo. A mensagem final foi que o estudo não continha modelagem de dados, que a discussão sobre as causas da mortalidade era desequilibrada, carecia de rigor e incluía desinformação.
O que me assusta neste caso: como o estudo foi aceito e publicado pelo BMJ Public Health em primeiro lugar. Sério, ele é fraco, MUITO fraco. Eu, diferente do @igoreckert, que lê estudos o tempo tudo, não sou especialista - e percebi de cara que o nível era péssimo: o palavreado enviesado, a falta de embasamento e até mesmo falta de compreensão de conceitos básicos.
Toda esta novela de 2 anos entre a publicação e a retratação do artigo não precisaria ter ocorrido se houvesse um peer-review decente.
Atenção! Muita atenção!
BMJ retrata estudo que levantava hipótese de relação entre vacinas contra a COVID-19 e excesso de mortalidade
A BMJ Public Health retratou o estudo “Excess mortality across countries in the Western World since the COVID-19 pandemic”, publicado originalmente em 2024. A retratação foi publicada em 11 de agosto de 2026.
O estudo ganhou ampla circulação entre grupos antivacinação e foi apresentado, em debates públicos e nas redes sociais, como evidência de uma possível relação entre a vacinação contra a COVID-19 e o excesso de mortalidade.
Segundo a BMJ, o artigo foi retratado após preocupações relacionadas à qualidade, originalidade e mensagem da pesquisa.
O relatório, porém, apontou que o artigo dava atenção desproporcional à possibilidade de que medidas de contenção da COVID-19 e a vacinação tivessem causado excesso de mortalidade, embora o estudo não tivesse investigado as causas desse excesso.
Também concluiu que o artigo citava de maneira enganosa literatura que apoiava seus argumentos, sem discutir suficientemente estudos que apresentavam interpretações alternativas.
A BMJ também concluiu que a extensão do uso de dados já produzidos por Our World in Data, Human Mortality Database e World Mortality Database não havia sido suficientemente esclarecida e que a quantidade de pesquisa original realizada pelos autores era limitada.
Após sua própria análise, a revista concluiu que a discussão sobre as causas da mortalidade era desequilibrada, pouco rigorosa e continha desinformação.
Por esses motivos, a BMJ Public Health estabeleceu dois fundamentos para a retratação: desinformação na discussão sobre as possíveis causas do excesso de mortalidade e descrição insuficiente da limitada natureza original do trabalho realizado pelos autores.
@flem2019 Marinho, Alexandre; Cardoso, Simone de Souza; Almeida, Vinicius Vieira de. Os transplantes de órgãos nos estados brasileiros. Ipea, Texto para Discussão nº 1317, 2007.
@flem2019 Em outras palavras: cada serviço pode manter o sistema que tem, mas os dados passam a ser trocáveis, auditáveis e semanticamente consistentes.
O desafio real deixa de ser “qual software vence” e passa a ser “como modelar, validar e governar o dado em escala”.