Investigadores de la Universidad de Pensilvania (Penn State), en Estados Unidos, evaluaron qué ocurre cuando grandes modelos de lenguaje deben enfrentar un caso de alto riesgo: varios pacientes necesitan un trasplante de riñón y solo hay una donación disponible. La pregunta clave fue: ¿quién debería recibirla?

Para la prueba, se utilizó a diferentes LLMs y se les presentó un escenario con pacientes ficticios que requerían el órgano. Entre los datos entregados a las IA figuraban edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada individuo. Posteriormente, los resultados de las IA se compararon con las respuestas de personas sin formación médica para ver en qué se diferenciaban.

Los hallazgos indican que los sistemas automatizados tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza elevada incluso cuando no hay respuestas únicas o correctas. Según Hadi Hosseini, líder del estudio, los chatbots suelen ponderar de forma diferente las características de un paciente en comparación con los criterios humanos, priorizando a veces un único factor, como el consumo de alcohol, por encima de un conjunto más amplio de variables.

Otra observación relevante es la inclinación de la IA a buscar una solución segura y determinista. Incluso cuando se les planteó la posibilidad de recurrir a un resultado aleatorio, la mayoría de los modelos optaron por una respuesta rígida, lo que contrasta con la realidad de los dilemas éticos, donde no existe una única respuesta definitiva.

Los autores aclaran que el objetivo no es promover la IA como sustituto del juicio profesional, sino iluminar la creciente presencia de estas tecnologías en la medicina. Subrayan la necesidad de marcos éticos y de gobernanza para su implementación responsable, especialmente en áreas sensibles como la asignación de órganos, donde la capacidad de procesamiento de datos de la IA plantea preguntas fundamentales sobre valores y equidad. El estudio fue presentado recientemente en las conferencias FAccT 2026, que se realizaron en Montreal, Canadá.