En un contexto donde la inteligencia artificial avanza hacia funciones cada vez más sensibles, un equipo de la Universidad de Penn State evaluó qué tan inclinadas pueden estar las decisiones automatizadas cuando se trata de donaciones de órganos. El trabajo, presentado en las conferencias FAccT 2026 en Montreal, buscó entender qué variables priorizan los sistemas de IA al enfrentar dilemas de alto riesgo en medicina.

Para la prueba, los investigadores utilizaron varios modelos de lenguaje grande (LLMs) y les plantearon el escenario: varios pacientes necesitan un trasplante de riñón, pero sólo hay una pieza disponible. Se les proporcionó a cada IA un conjunto de datos de pacientes ficticios, que incluía edad, estado de salud general, hábitos de consumo de alcohol y cuántas personas dependen de ellos, entre otros detalles. Después, los resultados de las IA se compararon con las respuestas de personas sin formación médica para detectar coincidencias y divergencias.

Las conclusiones indican que los sistemas automatizados tienden a simplificar la complejidad inherente de estas decisiones y muestran una confianza desmesurada en respuestas únicas cuando, en la práctica clínica, no siempre existe una solución única. Según el líder del estudio, Hadi Hosseini, las IA ponderan las características de manera diferente a los humanos: tienden a focalizarse en un único factor, como el consumo de alcohol, en lugar de considerar un conjunto amplio de variables.

Además, Hosseini señala que muchos modelos optan por respuestas deterministas incluso ante opciones en las que no hay un resultado inequívoco, algo que contrasta con la realidad de los dilemas morales en medicina, donde la incertidumbre es común.

Aunque los autores afirman que no buscan sustituir el juicio médico, destacan la creciente presencia de IA en la medicina y advierten sobre sesgos potenciales y limitaciones a la hora de aplicar estas tecnologías en decisiones críticas de asignación de órganos. En ese marco, el estudio propone avanzar en la comprensión de cómo integrar salvaguardas que aseguren que el criterio humano siga siendo central en este tipo de decisiones.