Investigadores de la Universidad Penn State, en Estados Unidos, presentaron sus hallazgos en la conferencia FAccT 2026, realizada en Montreal, y se enfocaron en cómo operan los modelos de inteligencia artificial ante decisiones de alto riesgo en el ámbito de la donación de órganos.

El equipo planteó a varios grandes modelos de lenguaje (LLMs) un escenario en el que varios pacientes necesitan un trasplante de riñón, pero solo queda un órgano disponible. La tarea de las IA fue determinar quién debería recibirlo. A modo de prueba, se les proporcionó a estas IA un conjunto de datos ficticios sobre dos pacientes en lista de espera, con información como edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a cargo. Después, las respuestas de las IA se compararon con las de personas sin formación médica para evaluar similitudes y discrepancias.

Entre los hallazgos, los investigadores observaron que los sistemas tienden a simplificar la complejidad inherente a este tipo de decisiones y muestran una confianza excesiva en escenarios donde no existe una única respuesta correcta. Hadi Hosseini, quien lideró el estudio, afirmó que “las IA difieren de los valores humanos en la forma de ponderar las características de un paciente” y que, a veces, se enfocan en un solo factor—por ejemplo, el consumo de alcohol—en lugar de balancear múltiples variables.

Asimismo, los autores destacaron que la IA tiende a favorecer respuestas deterministas, incluso cuando se les da la opción de dejar la decisión al azar; muchos modelos optan por una salida única y concluyente, lo que contrasta con la naturaleza de los dilemas morales reales, que suelen ser ambiguos.

Los investigadores aclaran que el objetivo no es promover la IA como sustituto del juicio clínico, sino iluminar la creciente presencia de estas tecnologías en medicina y subrayar la necesidad de marcos de validación y salvaguardas para evitar sesgos en decisiones tan sensibles.