Las capacidades recientes de la inteligencia artificial siguen alimentando el debate sobre los riesgos de la automatización, y ahora se aplican a un terreno especialmente sensible: la donación de órganos.

Investigadores de la Universidad de Penn State, en Estados Unidos, señalarn que los modelos de IA priorizan variables diferentes a las que manejan los profesionales cuando se enfrentan a decisiones de trasplantes. Según el equipo, las conclusiones de estas máquinas no siempre reflejan los valores clínicos ni las prioridades que tradicionalmente rigen la práctica médica.

El estudio se dio a conocer en la conferencia FAccT 2026, celebrada en Montreal, y su objetivo fue entender cómo se comportan las IA cuando se les solicita resolver dilemas de alto riesgo.

Para la prueba utilizaron varios modelos de lenguaje (LLMs) y plantearon un escenario: hay varios pacientes que necesitan un riñón, pero solo hay uno disponible. La pregunta central fue: ¿quién debería recibirlo?

A las IA se les compartió información de pacientes ficticios (no se especificaron las variantes exactas utilizadas): edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de cada uno. Después, se compararon sus respuestas con las de personas sin formación médica para identificar similitudes y diferencias.

Las conclusions mostraron que los sistemas automatizados tienden a simplificar decisiones complejas y a mostrarse demasiado confiados en escenarios donde no existe una única respuesta correcta.

Según Hadi Hosseini, líder del estudio, las IA tienden a ponderar ciertos rasgos de forma sesgada, y a privilegiar un único factor —como el consumo de alcohol— en lugar de equilibrar múltiples criterios que sí manejan los clínicos. Además, destacó que, incluso cuando se les da la opción de recurrir a una decisión aleatoria, la mayoría de los modelos optan por una solución determinista y aparentemente segura, lo que revela una brecha frente a dilemas morales reales donde no hay respuestas claras.

Los investigadores subrayan que no buscan que la IA reemplace el juicio profesional, sino iluminar el grado de presencia de estas tecnologías en medicina y las implicancias éticas y prácticas que conlleva su uso. En paralelo, medios como el New York Post recogieron el enfoque de que estas herramientas no están para sustituir al criterio clínico, sino para señalar la creciente incorporación de la IA en el ámbito médico y sus retos.

En síntesis, el trabajo plantea preguntas clave sobre el rol de la IA en decisiones médicas de alto riesgo y subraya la necesidad de marcos de gobernanza y supervisión clínica para su implementación responsable.