Las capacidades emergentes de la inteligencia artificial siguen alimentando el debate sobre los riesgos de la automatización, especialmente cuando estas herramientas deben tomar decisiones de alto impacto en salud. Un equipo de la Universidad Estatal de Pensilvania (Penn State), en Estados Unidos, abordó la cuestión en el ámbito de la donación de órganos. El estudio concluye que los modelos de IA priorizan criterios distintos a los humanos al decidir quién debe recibir un trasplante, y advierte que sus determinaciones pueden diferir de los valores médicos y éticos.
El trabajo, presentado recientemente en la conferencia FAccT 2026 en Montreal, analizó cómo se comportan diferentes grandes modelos de lenguaje ante un escenario crítico: varios pacientes requieren un trasplante de riñón, pero sólo hay un órgano disponible. Para la prueba, se proporcionaron a las IA una serie de datos sobre pacientes ficticios —edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de ellos— sin especificar qué variantes de LLMs se utilizaron.
Tras recoger las respuestas de las IA y compararlas con las opiniones de personas sin formación médica, los investigadores observaron varias diferencias notables. En primer lugar, los sistemas tienden a simplificar la complejidad de las decisiones y a confiar demasiado en respuestas que suenan categóricas ante situaciones en las que no existe una única solución correcta. En segundo lugar, la forma en que ponderan criterios muestra sesgos respecto a la valoración humana: las IA tienden a fijarse en un único factor, como el consumo de alcohol, en lugar de sopesar múltiples variables concurrentemente.
Hadi Hosseini, líder del estudio, afirmó que estos sistemas no solo difieren en la ponderación de los datos sino también en su confianza: ante opciones ambiguas, muchos modelos prefieren una solución determinista, incluso cuando la realidad plantea dilemas morales sin respuestas claras. Esa tendencia contrasta con la complejidad de las decisiones clínicas, que suelen requerir balances y matices.
Los autores subrayan que el objetivo no es promover la IA como sustituto del juicio profesional. Aunque la tecnología gana presencia en distintos ámbitos médicos, el equipo enfatiza la necesidad de entender sus límites y riesgos para no erosionar criterios éticos en situaciones sensibles. El medio New York Post destacó esa cautela, y los autores señalan que, más allá de las utilidades, hay que mirar con cuidado cómo estas herramientas pueden influir en decisiones críticas en medicina.
