Un reciente análisis de la inteligencia artificial aviva el debate sobre los límites y riesgos de la automatización, enfocándose en un terreno particularmente sensible: la asignación de órganos. Investigadores de la Universidad de Penn State llevaron a cabo una prueba con grandes modelos de lenguaje (LLMs) para observar qué harían si se les solicitara decidir, ante la escasez de un riñón, entre dos pacientes que también lo necesitan.

El estudio, que fue presentado en la conferencia FAccT 2026 en Montreal, buscó entender de qué forma las IA manejan decisiones de alta complejidad y alto riesgo. Para la prueba, se describieron a dos pacientes ficticios que competían por un único riñón. A cada uno se le proporcionó información relevante: edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a cargo. Los investigadores no detallaron las variantes exactas de IA empleadas en el experimento.

Tras obtener las respuestas de los IA, se compararon con las opiniones de personas sin formación médica para identificar coincidencias y divergencias. Los resultados revelaron que los sistemas automatizados tienden a simplificar la toma de decisiones complejas y muestran una confianza desproporcionada en escenarios donde no existe una única respuesta correcta.

Según los autores, los chatbots de IA difieren de los valores humanos en la ponderación de las características de un paciente. En lugar de equilibrar múltiples factores como suele hacer un clínico, los modelos pueden focalizarse en un único aspecto, por ejemplo, el consumo de alcohol. Además, incluso cuando se les plantea la opción de recurrir al azar (lanzar una moneda), la mayoría opta por una salida segura y determinista, lo que contrasta con la ambigüedad inherente a muchos dilemas morales reales.

Hadi Hosseini, líder del trabajo, subrayó que estas diferencias reflejan una brecha significativa entre la lógica de IA y los valores humanos en la priorización de pacientes. Por más que el objetivo no sea reemplazar el juicio clínico, los autores señalan que la creciente presencia de IA en medicina exige una reflexión profunda sobre sus límites y el impacto en la toma de decisiones sensibles.