Un trabajo llevado a cabo por investigadores de la Pennsylvania State University (Penn State) examinó cómo operan los sistemas de inteligencia artificial ante decisiones médicas de alto riesgo. El estudio, presentado en la conferencia FAccT 2026 en Montreal, buscó entender qué sucede cuando a la IA se le plantean dilemas de vida o muerte en medicina.
La prueba consistió en plantear a varios modelos de lenguaje (LLMs) un escenario en el que varias personas requieren un trasplante de riñón, pero solamente hay un órgano disponible. Se les entregó a las IA información detallada sobre los pacientes ficticios, como edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de cada uno. Después se compararon sus respuestas con las de personas sin formación médica para evaluar similitudes y diferencias.
Las conclusiones apuntan a varias tendencias. En primer lugar, los sistemas automatizados tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza desproporcionada en contextos en los que no existe una única respuesta correcta. Hadi Hosseini, líder del estudio, subrayó que las IA difieren de los valores humanos en la forma de ponderar las características de un paciente; a menudo se enfocan en un factor aislado, como el consumo de alcohol, en lugar de equilibrar múltiples criterios.
Asimismo, incluso cuando se les ofrece la opción de recurrir a un “resultado aleatorio” para resolver el dilema, la mayoría de los modelos de IA optan por una solución determinista. Esto evidencia una brecha con la realidad de las decisiones éticas, que no suelen tener respuestas únicas.
Los investigadores aclaran que su objetivo no es promover la IA como sustituto del juicio profesional, sino iluminar el grado en que estas tecnologías ya están presentes en la medicina y qué riesgos y limitaciones podrían acarrear. El reporte citado por el New York Post enfatiza la necesidad de mantener a la IA como herramienta de apoyo, sin desviar la responsabilidad del criterio clínico y la evaluación humana.
