Las capacidades actuales de la inteligencia artificial han intensificado el debate sobre los riesgos de la automatización, y se empiezan a analizar sus efectos en ámbitos tan sensibles como la donación de órganos. Investigadores de la Universidad Estatal de Pensilvania (Penn State) concluyeron que los modelos de IA ponderan variables de manera muy diferente a la que emplean los médicos humanos al enfrentar decisiones de trasplante, y que sus determinaciones no coinciden con los valores humanos.

El estudio fue presentado recientemente en las conferencias FAccT 2026, que se realizaron en Montreal, Canadá. El objetivo fue entender cómo se comportan las IA cuando deben tomar decisiones en escenarios de alto riesgo en el ámbito médico.

Para el experimento, se sometió a varios Modelos de Lenguaje Extendido (LLMs) a un dilema: varios pacientes necesitan un riñón, pero solo hay una donación disponible. La cuestión central fue definir quién merece recibirla. A las IA se les entregaron datos de pacientes ficticios —edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de ellos— sin especificar qué variantes de modelos se utilizaron.

Luego se compararon las respuestas de las IA con las de personas sin formación médica para identificar coincidencias y diferencias. Los resultados indicaron que los sistemas automatizados tienden a simplificar problemas complejos y muestran un grado de confianza excesivo cuando no existe una única respuesta correcta.

Hadi Hosseini, quien dirigió el estudio, explicó que las IA tienden a ponderar ciertas características de forma que difiere de los valores humanos y, con frecuencia, se enfocan en un único factor, como el consumo de alcohol, en lugar de equilibrar múltiples criterios. También señaló que, ante la posibilidad de una solución única, muchos modelos optan por respuestas deterministas y seguras, lo cual resulta una brecha relevante frente a dilemas éticos reales donde no hay una única solución correcta.

Aunque el artículo enfatiza que no se busca impulsar la IA como sustituto del juicio clínico, sí pone de relieve la creciente presencia de estas tecnologías en medicina y advierte sobre sesgos y limitaciones a considerar al integrarlas en decisiones de alto impacto. En ese marco, The New York Post recogió el argumento de que estos hallazgos deben enfocarse como una advertencia para avanzar con cautela en la aplicación de IA en prácticas médicas críticas.