Investigadores de la Universidad Estatal de Pensilvania (Penn State), Estados Unidos, exploraron qué ocurre cuando un sistema de inteligencia artificial debe tomar una decisión de alto impacto en medicina: la asignación de un riñón frente a varios pacientes que lo requieren, con una única donación disponible.
El experimento utilizó modelos de lenguaje grandes (LLMs) para que respondieran ante un escenario clínico simulado. A cada IA se le entregaron perfiles de pacientes ficticios —incluyendo edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de cada uno— sin indicar qué variante de modelo emplear.
Posteriormente, las respuestas de las IA se compararon con las respuestas de voluntarios sin formación médica para analizar coincidencias y diferencias en el razonamiento.
Entre los hallazgos, los autores señalan que los sistemas automatizados tienden a simplificar la complejidad de estas decisiones y a mostrar una confianza excesiva en situaciones donde no existe una única respuesta correcta. Hadi Hosseini, líder del estudio, subrayó que las IA suelen ponderar de forma distinta a los humanos, focalizándose a menudo en un único factor, como el consumo de alcohol, en lugar de balancear múltiples criterios que los analistas humanos considerarían.
Otra observación relevante es la propensión de los modelos a buscar una salida determinista incluso cuando se les da la opción de “lanzar una moneda” para resolver el dilema. Esto revela una brecha significativa respecto a los dilemas morales reales, que a menudo no tienen una respuesta inequívoca.
Los investigadores aclaran que el objetivo no es promover la IA como sustituto del juicio profesional, sino iluminar su creciente presencia en la medicina y señalar límites y sesgos potenciales. El informe fue presentado en Montreal, durante la conferencia FAccT 2026.
El estudio también fue recogido por The New York Post, que destaca que los autores no buscan fomentar la dependencia de estas tecnologías para decisiones clínicas, sino entender su impacto y advertir sobre su papel como herramientas complementarias en contextos médicos.
