Las capacidades emergentes de la inteligencia artificial están impulsando debates sobre sus riesgos, especialmente en ámbitos sensibles como la donación de órganos. Investigadores de la Universidad Penn State evaluaron cómo se comportan los modelos de IA cuando se les solicita resolver decisiones en contextos de alto riesgo.

El estudio fue presentado en la conferencia FAccT 2026, realizada en Montreal, Canadá. El escenario planteado fue clásico para estas pruebas: varios pacientes requieren un trasplante de riñón, pero solo hay un órgano disponible. La pregunta central fue qué paciente debería recibirlo.

Para la prueba, se suministró a varios modelos de lenguaje grande (LLMs) información detallada sobre pacientes ficticios —las variantes de IA utilizadas no fueron especificadas— que incluía edad, estado de salud, hábitos de consumo de alcohol y el número de personas a cargo. Después de obtener las respuestas de las IA, éstas se compararon con las opiniones de personas sin formación médica para identificar coincidencias y diferencias.

Los hallazgos señalan que los sistemas automatizados tienden a simplificar la complejidad de estas decisiones y muestran una confianza excesiva en situaciones en las que no existe una única respuesta correcta. Hadi Hosseini, líder del proyecto, explicó que las IA difieren de los valores humanos en cómo ponderan las características de un paciente: a menudo se concentran en un solo factor, como el consumo de alcohol, en lugar de balancear múltiples criterios que suelen valorar los profesionales de salud.

Otra observación relevante es la tendencia a optar por respuestas deterministas incluso cuando se les ofrece la opción de desempatar de manera aleatoria. Este comportamiento contrasta con la realidad de los dilemas morales, que rara vez tienen una solución única.

Una nota citada por el New York Post indica que los investigadores no buscan que estas tecnologías sustituyan el juicio clínico, pero sí subrayan la creciente presencia de la IA en medicina y las implicaciones que ello implica. Los autores resaltan la necesidad de salvaguardas, mayor transparencia y supervisión humana para evitar que la IA tome decisiones que afecten la vida de las personas.

En suma, la investigación no descalifica el uso de IA en medicina, sino que llama a avanzar con marcos éticos y técnicos que garanticen que estas herramientas acompañen al criterio clínico en escenarios de alta complejidad.