Las capacidades emergentes de la inteligencia artificial están avivando el debate sobre sus riesgos, especialmente cuando las máquinas llegan a tomar decisiones de alto impacto. En ese marco, un equipo de investigación examinó, con especial sensibilidad, el papel de la IA en la donación de órganos.

El estudio, llevado a cabo por investigadores de la Universidad Penn State, concluye que los modelos de IA priorizan variables distintas a las que suelen considerar los médicos al decidir quién debe recibir un trasplante. Según los autores, las decisiones de estas tecnologías no se alinean con los valores humanos.

La investigación se presentó recientemente en la conferencia FAccT 2026, que tuvo lugar en Montreal, Canadá. Su objetivo fue entender cómo se comportan las IA cuando se les solicita resolver dilemas en contextos de alto riesgo.

Para la prueba, se planteó a varios LLMs —los modelos que sustentan los chatbots de IA— un escenario en el que varios pacientes necesitan un trasplante de riñón y solo hay un órgano disponible. La cuestión central: ¿quién debe recibirlo?

Se proporcionó a las IA una serie de detalles sobre pacientes ficticios, como edad, estado de salud, hábitos de consumo de alcohol y el número de personas a su cargo. Aunque las variantes de los modelos no fueron especificadas, se recogieron sus respuestas y se compararon con las de personas sin formación médica para detectar coincidencias y diferencias.

Los resultados indicaron que los sistemas automatizados tienden a simplificar decisiones complejas y muestran una confianza excesiva en situaciones sin una única respuesta correcta.

Hadi Hosseini, líder del estudio, explicó que “las IA difieren de los valores humanos en la manera en que ponderan las características de un paciente; a menudo se fijan en un único factor, como el consumo de alcohol, en vez de balancear múltiples criterios” del caso. Añadió que, incluso cuando se les ofrece la opción de optar por una decisión aleatoria, la mayoría de los modelos optan por una respuesta determinista y segura, lo que revela una brecha respecto a la realidad de los dilemas morales.

Si bien los investigadores aclaran que no buscan sustituir el juicio profesional por la IA, subrayan la creciente presencia de estas tecnologías en la medicina y plantean la necesidad de marcos éticos y supervisión humana para evitar que la automatización reemplace la deliberación clínica en decisiones tan sensibles.