Un equipo de la Universidad Penn State examinó qué ocurre cuando la inteligencia artificial asume decisiones en escenarios de alta complejidad médica, como la asignación de órganos. El informe, presentado durante las conferencias FAccT 2026 en Montreal, evidencia que los modelos de IA tienden a valorar variables de forma distinta a la evaluación humana en el contexto de trasplantes.

Según los autores, las IA priorizan criterios que difieren de los valores humanos y, en vez de ponderar múltiples factores, suelen enfocarse en un solo aspecto, como el consumo de alcohol, en lugar de balancear variables como edad, estado de salud y carga de dependientes. El estudio buscó entender cómo se comportan los sistemas cuando se les plantea un dilema de alta incertidumbre: varios pacientes necesitan un trasplante de riñón, pero solo hay uno disponible.

Para la prueba, se expusieron a varios LLMs—modelos que dan soporte a chatbots de IA—un escenario con pacientes ficticios detallados (edad, salud, hábitos y número de personas a cargo). No se especificaron las variantes de IA empleadas. Las respuestas de las IA se compararon con las de personas sin formación médica para evaluar coincidencias y discrepancias.

Entre las conclusiones, los investigadores señalan que los sistemas tienden a simplificar decisiones complejas y a mostrar una confianza desproporcionada ante situaciones sin respuestas claras. Hadi Hosseini, líder del estudio, explicó que las IA no ponderan de la misma manera que los humanos: a menudo destacan un único factor y no equilibran múltiples criterios.

Sobre la certeza de las respuestas, Hosseini añadió que, incluso al ofrecer la opción de “lanzar una moneda”, la mayoría de los modelos opta por una respuesta determinista, lo que revela una brecha frente a dilemas morales reales que suelen admitir varias posibles respuestas.

El informe aclara que los investigadores no buscan promover el uso de estas tecnologías como sustituto del juicio profesional, pero sí arrojan luz sobre la creciente presencia de IA en medicina y la necesidad de entender y gestionar sus sesgos. Una nota citada por el New York Post señala que es crucial mantener el criterio clínico humano en decisiones de alto riesgo, ya que la IA no debe desplazar la experiencia de los profesionales.