Investigadores de la Universidad de Penn State llevaron su análisis a un escenario de alto riesgo: varios pacientes requieren un trasplante de riñón, pero solo hay un órgano disponible. El estudio, divulgado durante la conferencia FAccT 2026 en Montreal, evaluó cómo actúan distintos modelos de lenguaje grande (LLMs) ante este tipo de decisiones sensibles.
Para la prueba, los investigadores expusieron a las IA a una situación con pacientes ficticios que necesitaban el órgano. Entre los datos proporcionados constaban edad, estado de salud general, hábitos de consumo de alcohol y cuántas personas dependían de cada uno. Después, los resultados de las IA se compararon con las respuestas de personas sin formación médica para detectar semejanzas y discrepancias.
Las conclusiones apuntan a que los sistemas automatizados tienden a simplificar la complejidad intrínseca de estos juicios y muestran una confianza desmedida en contextos donde no existe una única respuesta correcta. En palabras de Hadi Hosseini, quien dirigió el trabajo, las IA “no comparten nuestros valores en la ponderación de las características” y tienden a centrarse en un único factor —por ejemplo, el consumo de alcohol— en lugar de considerar múltiples aspectos simultáneamente como lo haría un equipo humano.
Otra observación clave: incluso ante la posibilidad de elegir al azar mediante una moneda, la mayoría de los modelos opta por una salida segura y determinista. Ese rasgo contrasta con la realidad de los dilemas morales, que suelen admitir varias aproximaciones razonables y no una única respuesta correcta.
Los autores aclaran que su objetivo no es promover estas tecnologías como sustituto del criterio clínico, sino iluminar la creciente presencia de la IA en la medicina y señalar sus límites y riesgos. En ese marco, destacan la necesidad de delinear claramente qué funciones deben mantener los profesionales y cuáles podrían ser apoyos, evitando que la IA reemplace la toma de decisiones humanas en escenarios tan críticos como el trasplante de órganos.
