Investigadores de la Universidad Estatal de Pensilvania llevaron a cabo un experimento para comprobar cómo se comportan los sistemas de inteligencia artificial ante un dilema médico de alto riesgo. El trabajo, presentado recientemente en la conferencia FAccT 2026 en Montreal, analizó si los grandes modelos de lenguaje (LLMs) al tomar decisiones relacionadas con trasplantes se alinean con criterios clínicos o con valores humanos.
En el escenario planteado, dos pacientes requieren un trasplante de riñón y solo queda un órgano disponible. A cada IA se le proporcionó información detallada sobre los pacientes ficticios: edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas que dependen de ellos. Después de obtener las respuestas de los chatbots, estas se compararon con las de personas sin formación médica para identificar similitudes y diferencias.
La conclusión general fue que las IA tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza excesiva en situaciones donde no existe una única respuesta correcta. “Sus determinaciones difieren de los valores humanos en la ponderación de las características de un paciente”, explicó Hadi Hosseini, líder del estudio. El investigador agregó que las IA suelen fijarse en un único criterio —por ejemplo, el consumo de alcohol— en lugar de hacer una evaluación multidimensional como la realizan los profesionales.
Además, Hosseini subrayó que, incluso cuando se les da una opción determinista, la mayoría de los modelos optan por respuestas seguras y previsibles. Eso contrasta con la realidad de los dilemas morales en medicina, que a menudo no admiten una solución única y definitiva.
El informe no busca presentar a la IA como sustituto del juicio clínico, sino exponer la creciente presencia de estas tecnologías en el ámbito médico y sus posibles efectos en la toma de decisiones. En esa misma línea, un resumen citado por el New York Post señala que los autores enfatizan la necesidad de supervisión profesional y de utilizar estas herramientas con cautela para evitar sesgos y errores de razonamiento que podrían afectar a pacientes.
