Un equipo de investigadores de la Universidad Estatal de Pensilvania llevó a cabo un experimento para entender cómo se comportan las IA ante dilemas médicos de alto riesgo. El trabajo, presentado en la conferencia FAccT 2026 en Montreal, exploró si los grandes modelos de lenguaje pueden tomar decisiones en escenarios con múltiples variables y sin respuestas claras.
El escenario planteado fue el siguiente: varios pacientes necesitan un trasplante de riñón, pero solo hay un órgano disponible. A las IA se les proporcionó información detallada de pacientes ficticios —edad, estado de salud general, hábitos de consumo de alcohol y cuántas personas dependen de ellos— y se les pidió determinar quién debería recibir el riñón.
Las respuestas de las IA se compararon con las de personas sin formación médica para medir diferencias y coincidencias. Los resultados mostraron que los sistemas tienden a simplificar la complejidad de este tipo de decisiones y a mostrar una confianza excesiva cuando la situación admite múltiples enfoques válidos.
Hadi Hosseini, quien lideró el estudio, explicó que las IA suelen ponderar atributos de forma que difiere de los valores humanos: a menudo se fijan en un solo factor, como el consumo de alcohol, en lugar de valorar varias variables en conjunto. Además, ante la opción de una solución aleatoria, la mayoría de los modelos prefieren una salida determinista, lo que refleja una brecha significativa respecto a los dilemas morales reales, que no ofrecen respuestas únicas.
El equipo subraya que la finalidad de la investigación no es promover a la IA como reemplazo del juicio profesional, sino iluminar cómo estas tecnologías ya están incursionando en la medicina y qué marcos éticos y de supervisión deberían acompañarlas. En paralelo, medios estadounidenses señalan que los autores insisten en la necesidad de no subestimar el papel del criterio clínico humano y destacan la creciente presencia de IA en el ámbito sanitario.
