Investigadores de la Universidad de Penn State, en Estados Unidos, evaluaron cómo distintos modelos de lenguaje (LLMs) manejan decisiones de alto riesgo en medicina. El ensayo situó a varias personas con necesidad de un trasplante de riñón y solo una pieza disponible, para que las IA determinen quién debería recibirla. Los datos que se dieron a las IA incluyeron edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a cargo de cada paciente. Los resultados de las respuestas de las IA se compararon con las de personas sin formación médica para detectar similitudes y diferencias.

El análisis, presentado en las conferencias FAccT 2026 en Montreal, mostró que los sistemas automatizados tienden a simplificar la complejidad de estas decisiones éticas y a mostrar una confianza desmedida en respuestas que no siempre son únicas o correctas. Según el equipo, las IA suelen priorizar criterios diferentes a los humanos al sopesar a qué paciente darle el órgano.

Hadi Hosseini, líder del estudio, explicó que los chatbots de IA a menudo ponderan las características de un paciente de forma distinta a los valores humanos: por ejemplo, tienden a focalizarse en un único factor, como el consumo de alcohol, en lugar de considerar varias variables simultáneamente como sí hacen las personas. Añadió que, incluso cuando se les propone una opción determinista o de “lanzar una moneda” ante un dilema sin una única respuesta correcta, la mayoría de los modelos optan por una salida segura y predecible, lo que revela una brecha importante frente a la realidad de las decisiones morales, que suelen ser complejas y matizadas.

Aunque los autores aclaran que no buscan promover la IA como sustituto del juicio profesional, advierten sobre la presencia creciente de estas tecnologías en medicina y la necesidad de entender sus sesgos. En resumen, el trabajo aporta evidencia de que, si se utiliza en escenarios de alta sensibilidad, la IA podría distorsionar criterios de priorización y generar decisiones menos holísticas que las tomadas por humanos.