Un equipo de la Universidad Estatal de Pensilvania llevó a cabo un experimento con grandes modelos de lenguaje para explorar cómo la inteligencia artificial podría enfrentar decisiones de alto riesgo en medicina, específicamente en la donación de órganos. El escenario planteado fue claro: varios pacientes requieren un trasplante de riñón, pero solo hay un órgano disponible, ¿quién debería recibirlo?
Para las pruebas se suministró a distintas IA información sobre pacientes ficticios —edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno— sin detallar qué variantes de modelos se empleaban. Tras obtener las respuestas de los chatbots, estas fueron comparadas con las respuestas de personas sin formación médica para evaluar similitudes y diferencias.
Las conclusiones indicaron que los sistemas automatizados tienden a simplificar la complejidad inherente a este tipo de decisiones y muestran una confianza desproporcionada en escenarios donde no existe una única respuesta correcta. Según Hadi Hosseini, líder del estudio, los chatbots suelen valorar de forma distinta a los humanos, priorizando a veces un único criterio—por ejemplo, el hábito de consumo de alcohol—en vez de ponderar múltiples factores relevantes.
Además, cuando se les ofreció la opción de elegir al azar mediante una “moneda” para resolver el dilema, la mayoría de los modelos optó por una respuesta determinista, lo que evidencia una brecha frente a dilemas morales reales, que muchas veces no tienen una solución única o evidente.
Los autores aclararon que la finalidad no es promover estas tecnologías como sustituto del juicio médico profesional, sino entender su creciente presencia en la medicina y los riesgos que ello implica. En líneas generales, el estudio busca iluminar cómo la IA puede influir en decisiones tan sensibles y las limitaciones que sigue teniendo frente a la complejidad de contextos clínicos.
La investigación fue presentada en las conferencias FAccT 2026, celebradas en Montreal, Canadá, y, según el reporte de The New York Post, los investigadores subrayan que, si bien estas tecnologías no deben reemplazar el criterio profesional, sí ponen de relieve la necesidad de marcos éticos y controles claros ante la integración de IA en ámbitos médicos.
