La discusión sobre los riesgos de la automatización se intensifica a medida que la inteligencia artificial asume funciones cada vez más decisorias, incluso en medicina. En ese marco, un estudio de la Universidad Penn State exploró qué ocurre cuando las máquinas deben elegir en situaciones de alto riesgo, como la asignación de un riñón cuando solo hay un donante.

Para la investigación, se expusieron a varios modelos de lenguaje de gran escala la clásica situación de escasez: múltiples pacientes requieren un trasplante renal, pero solo uno está disponible. A cada IA se le proporcionó un conjunto de datos sobre pacientes ficticios —incluyendo edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno— con la intención de simular criterios médicos y sociales que suelen ponderarse en la práctica clínica.

Luego se contrastaron las respuestas de las IA con las de personas sin formación médica para evaluar similitudes y diferencias. Entre los hallazgos, los autores observaron que los sistemas automatizados tienden a simplificar la complejidad de decisiones donde no existe una única solución correcta y muestran una confianza excesiva en escenarios de ambigüedad.

Hadi Hosseini, líder del estudio, explicó que los modelos priorizan atributos de manera distinta a los valores humanos: a menudo se enfocan en un único factor, como el consumo de alcohol, en lugar de equilibrar múltiples criterios. Añadió que, incluso cuando se les presenta la opción de “lanzar una moneda” para resolver el dilema, la mayoría de los modelos optan por una respuesta determinista, lo que revela una brecha frente a la naturaleza multifacética de las decisiones morales reales.

Los investigadores aclararon que la finalidad no es promover la IA como sustituto del juicio profesional, sino iluminar la creciente presencia de estas herramientas en medicina y señalar las implicaciones éticas y prácticas que emergen de sus sesgos para la toma de decisiones clínicas.