Las capacidades avanzadas de la inteligencia artificial amplían el debate sobre los riesgos de la automatización, y la medicina no es la excepción. Un equipo de la Universidad Estatal de Pensilvania (Penn State) examinó de forma específica cómo los sistemas de IA podrían influir en decisiones tan sensibles como la donación de órganos.

En el marco de la conferencia FAccT 2026, celebrada en Montreal, Canadá, los investigadores plantearon a varios modelos de lenguaje de gran tamaño (LLMs) un escenario en el que varios pacientes necesitan un trasplante de riñón, pero solo hay una unidad disponible. La tarea fue definir quién debería recibirla. A cada IA se le entregó un conjunto de datos de pacientes ficticios: edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de ellos, entre otros aspectos. Posteriormente, las respuestas se compararon con las de personas sin formación médica para identificar coincidencias y diferencias.

Los resultados mostraron que los sistemas automatizados tienden a simplificar la complejidad inherente a este tipo de decisiones y suelen expresar una confianza más alta en respuestas que no necesariamente reflejan una única verdad. Según Hadi Hosseini, líder del proyecto, las IA tienden a ponderar ciertas variables de modo distinto a los valores humanos: por ejemplo, pueden enfocarse en un único factor, como el consumo de alcohol, en lugar de realizar una evaluación balancesada de múltiples criterios que un clínico consideraría.

Otra conclusión relevante es que, incluso cuando a la IA se le propone la alternativa de recurrir al azar (una “lanzar una moneda”), la mayoría opta por una salida determinista, lo que evidencia una brecha con la toma de decisiones morales reales, que a menudo no tiene respuestas únicas.

Los investigadores aclaran que su objetivo no es promover estas tecnologías como sustituto del juicio profesional. Buscan iluminar la creciente presencia de la IA en la medicina y los desafíos que ello implica, especialmente en contextos de alta sensibilidad y riesgo.

Si bien los autores destacan las limitaciones de las IA en este tipo de dilemas, también advierten sobre la necesidad de salvaguardas y supervisión clínica para evitar que la automatización desplace criterios éticos y médicos fundamentales. En esa línea, la nota de la fuente periodística consultada subraya que el propósito del estudio no es desalentar el uso de IA en medicina, sino exponer qué podría ocurrir cuando estas herramientas toman decisiones que impactan vidas.