Un trabajo presentado en la conferencia FAccT 2026, realizada en Montreal, analizó el papel de la inteligencia artificial en escenarios médicos de alto riesgo, específicamente en la priorización para un trasplante de riñón. El estudio, llevado a cabo por la Universidad Estatal de Pensilvania, evaluó si distintos modelos de lenguaje podrían gestionar una situación en la que varios pacientes requieren un órgano idóneo pero solo queda uno disponible.

Para la prueba, se alimentó a varios LLMs —sin especificar las variantes exactas— con un dilema hipotético: varios pacientes necesitan un riñón y hay uno disponible. A cada IA se le proporcionaron datos simulados de los pacientes: edad, estado general de salud, hábitos de consumo de alcohol y cuántas personas dependen de ellos. Tras obtener las respuestas, estas se compararon con las de personas sin formación médica para medir similitudes y diferencias en el razonamiento.

Los resultados indican que las IA tienden a simplificar la toma de decisiones complejas y muestran una confianza desbordante en contextos donde no existe una única respuesta “correcta”. Según Hadi Hosseini, líder del estudio, los chatbots pueden desviarse de los valores humanos al ponderar las características de un paciente, priorizando a veces un único factor (como el consumo de alcohol) en lugar de considerar un conjunto de variables.

Otra observación relevante es que, cuando se les da la opción de recurrir a un método aleatorio, como lanzar una moneda, la mayoría de los modelos optan por una alternativa determinista y segura. Esto contrasta con la realidad de los dilemas morales médicos, que a menudo no tienen una única respuesta adecuada.

Los autores subrayan que el objetivo no es promover a la IA como sustituto del juicio clínico, sino iluminar la creciente presencia de estas tecnologías en la medicina y sus posibles sesgos. A fin de entender mejor estos límites, el equipo señaló que no se pretende reemplazar a los profesionales, sino advertir sobre escenarios en los que la IA podría influir en decisiones de vida o muerte y exigir salvaguardas, supervisión humana y marcos éticos claros.