La discusión sobre los riesgos de la automatización se intensifica con las nuevas capacidades de la inteligencia artificial, y ahora un estudio centrado en medicina analiza cómo estas herramientas podrían influir en decisiones sensibles como la asignación de órganos.

El trabajo, realizado por investigadores de la Universidad de Penn State (Estados Unidos), concluye que los modelos de IA ponderan criterios distintos a los que emplean los seres humanos al evaluar trasplantes. “Sus decisiones no coinciden con nuestros valores”, señalan en síntesis los autores.

El estudio fue presentado recientemente en la conferencia FAccT 2026, que tuvo lugar en Montreal, Canadá, y buscó entender cómo operan las IA cuando se les solicita resolver dilemas de alto riesgo.

Para la experimentación, los investigadores pusieron frente a varios modelos de lenguaje de gran tamaño (LLMs) el clásico escenario de un trasplante renal: varios pacientes necesitan un órgano, pero solo hay uno disponible. Se les pidió determinar quién debería recibirlo.

A la IA se le entregaron detalles de pacientes ficticios —sin revelar las variantes exactas utilizadas— como edad, estado de salud, hábitos de consumo de alcohol y cuántas personas tenían a cargo. Después, se compararon las respuestas de los chatbots con las de personas sin formación médica para ver diferencias y coincidencias.

La conclusión fue que los sistemas automatizados tienden a simplificar la complejidad intrínseca de estas decisiones y muestran una confianza excesiva cuando no existe una única respuesta correcta.

Hadi Hosseini, quien lideró el estudio, explicó que los chatbots suelen ponderar de manera distinta los rasgos de un paciente: tienden a fijarse en un solo factor, como el consumo de alcohol, en lugar de considerar múltiples variables como lo hacen los humanos.

Además, señalan una brecha importante: incluso cuando se les propone una solución determinista (por ejemplo, “lanzar una moneda”), la mayoría de los modelos se inclinan por una respuesta única y predecible. Los dilemas morales reales, enfatizan, no siempre tienen una respuesta clara.

Si bien los autores aclaran que no pretenden que estas tecnologías sustituyan el juicio clínico, advierten sobre la creciente presencia de la IA en la medicina y la necesidad de entender sus límites y posibles sesgos cuando se apliquen en escenarios tan delicados.