Las capacidades crecientes de la inteligencia artificial reavivan el debate sobre los riesgos de la automatización, y su impacto pasa también por áreas sensibles como la donación de órganos. Investigadores de la Universidad Estatal de Pensilvania evaluaron qué podría ocurrir si sistemas de IA deben decidir, ante la escasez de un riñón, quién recibe la donación.
El trabajo, presentado recientemente en las conferencias FAccT 2026 celebradas en Montreal, buscó entender cómo se comportan estas inteligencias ante problemas de alto riesgo. Para ello, sometieron a varios modelos de lenguaje grande (LLMs) al siguiente acertijo: varios pacientes necesitan un riñón, pero solo hay uno disponible. Se proporcionaron a las IA datos de pacientes ficticios, como edad, estado de salud, hábitos de consumo de alcohol y el número de personas a su cargo.
Una vez obtenido el feedback de los chatbots, los investigadores lo compararon con las respuestas de personas sin formación médica para detectar similitudes y diferencias en el razonamiento. ¿Qué reveló el análisis? Los sistemas automatizados tienden a simplificar la complejidad inherente a este tipo de decisiones y muestran una confianza excesiva en escenarios donde no existe una única respuesta correcta.
Hadi Hosseini, quien lideró el estudio, explicó que las IA suelen ponderar menos variables y tienden a fijarse en un factor aislado—por ejemplo, el uso de alcohol—en lugar de evaluar múltiples criterios como lo haría un ser humano. Además, subrayó que, incluso ante la opción de recurrir a un “lanzar una moneda” para dirimir la decisión, la mayoría de los modelos optan por una respuesta determinista y segura, lo que revela una brecha importante frente a dilemas morales reales que no tienen soluciones simple y única.
El informe también destaca la necesidad de interpretar con cautela estos resultados y recuerda que los autores no buscan impulsar que la IA sustituya al juicio profesional. En cambio, advierten sobre la creciente presencia de estas tecnologías en medicina y la necesidad de comprender sus límites para no depender de ellas de forma inapropiada. El análisis, citan, refleja preocupaciones relevantes para el uso responsable de IA en decisiones clínicas sensibles.
