Las plataformas de inteligencia artificial están ampliando su presencia en ámbitos sensibles, y la medicina no es la excepción. En ese contexto, un equipo de investigadores de la Universidad Penn State presentó un estudio en la conferencia FAccT 2026, realizada en Montreal, que aborda cómo estos sistemas podrían comportarse cuando se les solicita tomar decisiones en situaciones de alto riesgo.

El objetivo fue examinar, con ejemplos prácticos, qué sucede cuando distintas variantes de modelos de lenguaje grande (LLMs) deben decidir quién recibe un riñón cuando solo hay un órgano disponible. Para el experimento, se propuso a las IA un dilema médico: varios pacientes requieren del trasplante, pero sólo uno podrá acceder al órgano. A cada caso se le entregaron datos detallados de los pacientes ficticios, como edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno.

Después de obtener las respuestas de las IA, los investigadores las contrastaron con las de personas sin formación médica para evaluar coincidencias y diferencias en el razonamiento.

Entre las conclusiones figura que los sistemas automatizados tienden a simplificar la complejidad de decisiones de alto riesgo y muestran un grado de confianza mayor al necesario cuando no existen respuestas únicas. Según Hadi Hosseini, líder del estudio, las IA pueden valorar las características de un paciente de forma diferente a los criterios humanos: con frecuencia se focalizan en un único factor (por ejemplo, el consumo de alcohol) en lugar de ponderar múltiples elementos como lo haría un profesional.

Otra observación es que, incluso cuando se les ofrece la opción de recurrir a un método aleatorio para decidir, la mayoría de los modelos optan por una respuesta determinista y “segura”. Eso plantea una brecha relevante, ya que en dilemas morales reales no siempre existe una única solución correcta.

La investigación no busca promover la IA como sustituto del juicio médico, sino arrojar luz sobre la creciente presencia de estas tecnologías en medicina y sus posibles sesgos. En la cobertura, el New York Post resalta que los autores no respaldan el uso de la IA como reemplazo del criterio profesional, sino como alerta sobre su influencia en la toma de decisiones clínicas.