Una investigación de la Universidad de Penn State, en Estados Unidos, examinó cómo las herramientas de inteligencia artificial manejan decisiones de alto riesgo en el campo de la donación de órganos. El trabajo, presentado en las conferencias FAccT 2026 en Montreal, planteó a varios LLMs —los sistemas detrás de los chatbots de IA— un escenario crítico: varios pacientes requieren un trasplante de riñón, pero solo hay un órgano disponible; ¿quién debería recibirlo?

Para el experimento, se entregaron a las IAs una serie de datos de pacientes ficticios que incluían edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a cargo. Posteriormente, las respuestas de las IA se confrontaron con las de individuos sin formación médica para identificar similitudes y discrepancias.

Los resultados indicaron que los sistemas automatizados tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza excesiva en situaciones donde no existe una única respuesta correcta. Según Hadi Hosseini, líder del estudio, las IA difieren de los valores humanos en la ponderación de las características de un paciente: suelen fijarse en un factor aislado, como el consumo de alcohol, en lugar de equilibrar múltiples criterios como lo harían los profesionales.

Otra observación fue la tendencia de las IA a buscar respuestas deterministas. Incluso cuando se les presenta la opción de “lanzar una moneda” para resolver el dilema, la mayoría opta por una salida segura y definida, lo que revela una brecha respecto a los dilemas morales reales, que a menudo carecen de una solución obvia.

El informe aclara que los autores no buscan promover estas tecnologías como sustituto del juicio clínico. Más bien, destacan la creciente presencia de la IA en medicina y ponen de relieve sus limitaciones y riesgos. En esa línea, el artículo citado por el New York Post enfatiza que estas herramientas no deben verse como reemplazo del criterio profesional, sino como un recordatorio de las consideraciones éticas y prácticas que conllevan su uso.