La discusión sobre los límites de la inteligencia artificial se intensifica cuando los sistemas automatizados llegan a ámbitos críticos como la medicina. Un equipo de la Universidad de Penn State investigó cómo operan los modelos de IA ante decisiones de alto riesgo en donación de órganos y qué sesgos podrían aparecer.
El trabajo, presentado en las conferencias FAccT 2026 en Montreal, analizó qué sucede cuando a varios Modelos de Lenguaje Extendido (LLMs) se les plantea resolver un dilema: hay varios pacientes que requieren un riñón, pero solo hay una pieza disponible. La cuestión central fue determinar quién debería recibirla.
Para el experimento, los investigadores suministraron a las IA ciertos datos de pacientes ficticios —sin especificar las variantes de IA usadas— que incluían edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno. Después de obtener las respuestas de los chatbots, se compararon con las conclusiones de personas sin formación médica para detectar coincidencias y divergencias.
Las conclusiones apuntan a que los modelos automatizados tienden a simplificar la complejidad inherente a estas decisiones y a mostrarse excesivamente confiados ante escenarios sin una única respuesta correcta. Según Hadi Hosseini, líder del estudio, las IA no siempre ponderan los mismos criterios que los humanos: suelen enfocarse en un único factor, como el consumo de alcohol, en lugar de evaluar un conjunto equilibrado de características.
El investigador también subrayó otra diferencia: incluso cuando se les propone una opción aleatoria, muchos sistemas de IA optan por una respuesta determinista y segura. Esa tendencia contrasta con la realidad de los dilemas morales en la práctica clínica, donde no existe un resultado claro y universalmente correcto.
Si bien los autores aclaran que no buscan promover la IA como sustituto del juicio profesional, señalan que los hallazgos iluminan la creciente presencia de la tecnología en la medicina y las posibles implicancias éticas de su uso en decisiones tan sensibles como la asignación de órganos.
