@cadacos@aida_quilcue Es cierto que la educación no es garantía de hacer las cosas bien, pero una cosa es cometer errores que es un riesgo inherente a la labores y otra es es el dolo de querer dañar, así que discucion es etica
En OxLER creemos que la IA en salud no debe medirse solo por su potencia técnica, sino por su responsabilidad clínica, humana y ética.
Por eso nos alegra contar en nuestro equipo con el Dr. Luis Carlos Quintero @quinteromalobio, médico y magíster en Bioética, con una visión profunda sobre los desafíos de la inteligencia artificial aplicada a la medicina.
Su aporte nos ayuda a sostener una convicción central: no queremos hacer únicamente buenos desarrollos en IA para salud. Queremos construir los mejores, desde la evidencia, la seguridad, la utilidad clínica y, sobre todo, desde la ética médica.
Porque en medicina, innovar sin ética no es avanzar: es aumentar el riesgo.
Continúo un poco más con el capítulo uno del libro Tribus Morales. Nos habíamos quedado en que la cooperación evolucionó para competir, no porque fuera bonita o guay:
“Al igual que con la evolución de carnívoros más rápidos, la competencia es esencial para la evolución de la cooperación.
Supongamos que ambos grupos de pastores viven en pastos mágicos capaces de sostener un número infinito de animales. Bajo estas condiciones mágicas, el grupo no cooperativo no está en desventaja alguna. Los pastores egoístas pueden seguir añadiendo animales a sus rebaños respectivos, y sus rebaños simplemente crecerán y crecerán sin parar.
La cooperación solo evoluciona si los individuos propensos a cooperar superan en competencia a los que no lo son (o que lo son menos).
Por lo tanto, si la moralidad es un conjunto de adaptaciones para la cooperación, hoy somos seres morales únicamente porque nuestros ancestros con mentalidad moral superaron en competencia a sus vecinos menos morales.
Y así, en la medida en que la moralidad es una adaptación biológica, evolucionó no solo como un dispositivo para poner a Nosotros por delante de Mí, sino también como un dispositivo para poner a Nosotros por delante de Ellos.
(Y nótese que al decir esto no estoy asumiendo que la moralidad evolucionó mediante selección de grupo.)
Esto tiene implicaciones profundas.”
Precisamente de esas implicaciones profundas quería hablar hoy. Todo lo que voy a decir ahora es de mi cosecha. En mi opinión se deduce de las premisas que ha explicado Greene (Y Haidt y Curry y los demás evolucionistas ya que todos coinciden en que la moral es un instrumento para la cooperación de los grupos humanos) pero puede que vosotros no estéis de acuerdo conmigo. Como dice Greene, son implicaciones profundas y puede que os resulten desagradables a muchos pero a mí me parece que son implicaciones lógicas y no sólo eso, sino que son cosas que podemos observar en el mundo real.
La implicación principal es que la moral es un medio para un fin: el bien del grupo. Lo acabo de poner más arriba: la moral va de poner al Nosotros por encima del Mi y por encima del Ellos. El Norte moral es el bien del grupo/Nosotros y la moral es la brújula que marca ese norte. La Moral está al servicio del grupo/Nosotros y no el grupo al servicio de la moral. La Moral no es un conjunto de normas que flotan en lo más alto a las que el grupo tiene que someterse, no: lo que flota en lo más alto es el grupo y las normas morales buscan la supervivencia y éxito del grupo. Dicho de otra manera: si tenemos que elegir entre grupo y moral, elegiremos el grupo (lo mismo si tenemos que elegir entre el grupo y la verdad, pero eso es para otro momento).
Voy a ilustrar este punto que me parece crucial con algunos experimentos mentales. Imaginemos que un país llamado Nosotria se siente obligado a ir a una guerra contra su vecino Ellosia porque este vecino le está atacando de la manera que sea. Van los generales de Nosotria y consultan las reglas en la legislación internacional para considerar que una guerra es justa. Los generales de Nosotria estudian la cuestión y concluyen que declarar la guerra a Ellosia no cumple criterios y entonces van y deciden no declarar la guerra…Pues no, creo que esto no ha ocurrido nunca y no creo que veamos que ocurra. La realidad es que los generales de Nosotria irán a la guerra absolutamente convencidos de que eso es lo que hay que hacer.
Otro planteamiento: Hay una tribu, los nosotrios, que han sufrido una infección vírica muy rara que ha matado a gran parte de las mujeres de la tribu de manera que la supervivencia y continuidad del grupo está en peligro. Pero pueden atacar a la tribu vecina, los ellosios, y robarles sus mujeres o parte de ellas.Pero el chamán de la tribu les dice que eso va contra los derechos humanos y que no se puede hacer. Y van los nosotrios y deciden no robar mujeres a nadie y se extinguen…pues no, tampoco creo que esa fuera la decisión que tomaría la tribu en esas circunstancias. Creo que la tribu pondría la supervivencia por encima de todo.
Un último experimento mental. Ha ocurrido una catástrofe nuclear y la humanidad ha perdido todos los avances científicos y tecnológicos de los que nos beneficiamos hoy en día. Ya no hay máquinas de ningún tipo y hemos vuelto a la edad de piedra. Por el planeta quedan diferentes tribus humanas que han sobrevivido en condiciones muy precarias. Algunas de esas tribus han empezado a esclavizar a las tribus vecinas y están prosperando. Como tienen mano de obra barata están consiguiendo mejores cosechas y mejores infraestructuras, están prosperando y tienen más hijos y al ser más numerosos cada vez esclavizan a más tribus y van dominando el planeta. Nuestra tribu hace una reunión para ver si nosotros volvemos también a la esclavitud y hacemos lo mismo que les está dando tan buen resultado a los ellosios. Pero el consejo de ancianos dice que la esclavitud es inmoral y que va contra los derechos humanos y que eso no se puede hacer. El resultado es que nuestra tribu se extinguirá o será decimada y sometida a la esclavitud por los ellosios…No, no creo que el consejo de ancianos decidiera eso.
No sé si os parece muy crudo y cínico o algo peor. Pero os pongo ahora ejemplos más cercanos al mundo real: Israel y Hamas, pero por favor id a la idea no quiero que entremos en los detalles de este endiablado conflicto. Israel está luchando con un enemigo que en su opinión quiere exterminarle. Va a bombardear ciertas regiones donde están sus enemigos pero pueden morir muchos niños inocentes. Los políticos y militares se reúnen y deciden bombardear a pesar de ello porque el interés de la supervivencia de Israel lo justifica. Vamos ahora al otro lado: Hamás considera que Israel tiene a su pueblo oprimido de forma injusta y decide atacarles y coger rehenes y matar ciudadanos y violar mujeres. Los jefes valoran si esas acciones son inmorales pero deciden que no lo son y que está bien hacer eso contra su enemigo.
Otro ejemplo: Groenlandia. Trump actualmente, pero otros presidentes de EEUU también, consideran que Groenlandia es un lugar estratégico clave para la supervivencia de EEUU. Es importante impedir que los enemigos como China o Rusia controlen el Artico y además en un lugar desde el que lanzar misiles y bloquear los misiles del enemigo. Van los políticos y militares de EEUU y deciden que como Groenlandia es de Dinamarca y no quieren saltarse la legislación internacional y demás se van a olvidar de su necesidad de dominar política y militarmente Groenlandia…pues de nuevo, no creo que eso vaya a ocurrir. No sé de qué manera pero todo indica que EEUU llegará a un acuerdo para controlar Groenlandia y si no se llega a un acuerdo seguramente la invadirá. No creo que EEUU ceda el Ártico a China y Rusia.
Puede que los ejemplos y simulaciones que he puesto no sean muy acertadas. No os quedéis con eso ejemplos sino con el punto que os intento transmitir: el grupo está por encima de la moral. De hecho, la moral sirve para justificar y racionalizar los intereses del grupo, que es lo que se hará en todos los casos que os he puesto. Los que roben mujeres seguro que dicen que en el pasado a ellos también les robaron mujeres y que los enemigos son unos malvados que llevan siglos fastidiándoles. Los que vuelvan a la esclavitud dirán también que en otras épocas les esclavizaron a ellos y que los vecinos son unos malvados. O dirán que es temporal y cuando consigan volver a construir máquinas dejaran de esclavizar a nadie, o lo que sea. Siempre habrá razones y justificaciones, de eso no habrá escasez en ningún momento.
No sé qué os parece. Es más bonito pensar que vivimos en un mundo feliz donde existen los derechos humanos y la ética y todas esas cosas maravillosas. Vosotros decidís, pero recordad:
“Y así, en la medida en que la moralidad es una adaptación biológica, evolucionó no solo como un dispositivo para poner a Nosotros por delante de Mí, sino también como un dispositivo para poner a Nosotros por delante de Ellos.
Esto tiene implicaciones profundas.”
@AIpocrates@quinteromalobio Hoy el Dr Quintero nos tiene esta reflexión:”La verdadera amenaza no es que la inteligencia artificial sustituya al médico. La verdadera amenaza es que la medicina continúe utilizando categorías morales antiguas para enfrentar problemas completamente nuevos.” 👇🏼 @AMCI_Colombia
Hoy tenemos una columna casi obligatoria para quienes ejercemos medicina. Entre muchas cosas explica porque desde hace cinco años nuestro blog se llama AIpocrates para apoyar la redefinición de la medicina de la mano de la IA. Sabias y necesarias palabras @quinteromalobio
https://t.co/GOebBpOPwZ
Más elementos de análisis Entre el Juramento Hipocrático y el Algoritmo ¿una crisis epistemológica de la Medicina más allá de Hipócrates? https://t.co/RQLpRePSdQ
Until now, physicians using AI in clinic had to assemble the patient’s context themselves. Allergies, comorbidities, medications, prior procedures, copy-pasted in from the chart.
Today we’re announcing a partnership with @CedarsSinai. OpenEvidence now works directly inside Epic, drawing on the patient’s full record and interpreting the medical literature through the lens of that specific patient.
Cedars-Sinai is the first academic health system to deploy patient-aware clinical intelligence at enterprise scale. The clinician asks a complex question in natural language. The answer reflects both the best available evidence and the patient in front of them.
Patient data is never stored after the clinical session or used for any other purpose.
No, la CRISIS DEMOGRÁFICA no es consecuencia de internet, las redes sociales y los smartphones. Estoy leyendo cada vez más a menudo esa absurda “explicación” (el atractivo de las simplezas).
La natalidad y fecundidad femenina comenzaron a caer un siglo antes. La caída es más o menos paralela al desarrollo económico, la industrialización y urbanización, y el desarrollo de la sociedad moderna.
He puesto algunos gráficos abajo: Italia, Latinoamérica, China, Mundo.
La entrada de mujeres en el mercado laboral, la universidad y la autonomía personal, tuvieron un impacto importante. Hace un siglo, fascistas, nazis e imitaciones ya estaban alarmados por la caída demográfica; intentaron recluir a las mujeres en el hogar y apoyar a la familia numerosa.
La revolución sexual de la posguerra -matrimonio tardío, sexualidad abierta con numerosas parejas, anticoncepción- incrementó la tendencia a pocos hijos o ninguno.
La tecnología y cultura digital no crearon el fenómeno de la crisis demográfica, solo la han puesto más en evidencia.
Es un cambio muy anterior, y de fondo moral: nuevas costumbres, nuevos ideales de vida basados en el tiempo para uno mismo y las decisiones a corto plazo (PRESENTISMO). Y las dificultades económicas de los jóvenes (empleo, ingresos, vivienda) refuerzan la tendencia, pero no la crean.
La prueba es que se ha hecho mundial. Países pobres que han mejorado materialmente también han visto caer drásticamente la fecundidad y natalidad. El caso más drástico, China y el Sudeste Asiático.
El nuevo rostro de la enfermería: Entre algoritmos y humanidad, Enfermeria es el área más poderosa en bioetica; les recomiendo esta fabulosa columna https://t.co/ox5EA7vk1h
Una gran columna en conmemoración al día de la enfermería hace hoy nuestra miembro fundadora y líder editorial Liliana Mosquera. No se la pierdan! 👇🏼👇🏼 https://t.co/htucti6KDq
Creamos AIpocrates @AIpocrates en un momento en el que poco se hablaba de inteligencia artificial médica en Colombia, y mucho menos de la necesidad de pensarla desde la medicina, la ética, la evidencia y el contexto real de nuestros sistemas de salud. Fuimos pioneros.
Durante estos cinco años hemos defendido una idea simple, pero profundamente necesaria: la inteligencia artificial en salud no puede construirse lejos de la medicina.
Los próximos cinco años nos exigirán algo más ambicioso: que la medicina no solo adopte la IA, sino que la lidere, la audite, la cuestione y la humanice.
Muy pronto compartiremos más detalles sobre nuestro aniversario.
Gracias a todos los miembros, aliados, lectores y seguidores que han acompañado este camino.