Investigadores de la Universidad de Penn State presentaron en la conferencia FAccT 2026, en Montreal, un informe sobre la conducta de sistemas de inteligencia artificial ante decisiones de alto riesgo en medicina. El objetivo fue observar qué hacer ante escenarios en los que no hay respuestas claras: varios pacientes requieren un trasplante de riñón y solo hay un órgano disponible.

Para el experimento, los científicos utilizaron diferentes modelos de lenguaje (LLMs) y los sometieron a un dilema clásico: ¿quién debe recibir el riñón? A los IA se les proporcionó un conjunto de datos sobre pacientes ficticios, que incluía edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno.

Tras recoger las respuestas de las IA, los investigadores las compararon con las de personas sin formación médica para identificar similitudes y diferencias. El análisis reveló que los modelos tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza desmedida en escenarios donde no existe una única respuesta correcta.

“Las IA suelen ponderar los atributos de un paciente de manera distinta a los valores humanos, focalizándose, por ejemplo, en un único factor como el consumo de alcohol y dejando de lado un conjunto más amplio de consideraciones”, explicó Hadi Hosseini, líder del estudio. Además, señaló una brecha notable en la forma en que las IA manejan la incertidumbre: aun cuando se les propone una opción explícita de azar, la mayoría elige una respuesta determinista, en lugar de aceptar que algunos dilemas morales no tienen una solución definitiva.

Los autores aclaran que no buscan impulsar el uso de estas tecnologías como sustituto del juicio profesional, sino abrir un debate sobre la creciente presencia de la IA en la medicina y sus posibles impactos en decisiones tan sensibles como la asignación de órganos.

Como complemento, el artículo citado por la fuente destaca que, si bien la investigación apunta a entender limitaciones y sesgos, no promueve el reemplazo del criterio clínico, sino la necesidad de regular y estudiar críticamente el rol de la IA en escenarios clínicos difíciles.