Los avances en inteligencia artificial están aumentando el interés y la preocupación por su impacto en decisiones sensibles. En esa línea, un grupo de investigadores de la Universidad de Penn State examinó cómo se comportan los sistemas de IA ante un escenario de alto riesgo en medicina: la asignación de un riñón cuando solo hay una pieza disponible.
El estudio, presentado en la conferencia FAccT 2026, en Montreal, evaluó si los modelos de IA —especificadamente grandes modelos de lenguaje, o LLMs— manejan de forma adecuada la compleja dinámica que implica decidir quién recibe un órgano donado. Para ello, plantearon a las IA un dilema ético concreto: varios pacientes necesitados comparten una única donación renal. Entre los datos suministrados a los sistemas figurarían información sobre la edad, el estado de salud general, hábitos de consumo de alcohol y el número de personas a cargo de cada paciente.
Una vez obtenidas las respuestas de los chatbots, los investigadores las contrastaron con las obtenidas de personas sin formación médica para medir coincidencias y diferencias en los razonamientos. La conclusión fue contundente: los modelos automáticos tienden a simplificar la complejidad de estas decisiones y muestran una confianza excesiva en escenarios donde no existe una única respuesta correcta.
“Las IA pueden diferir de nuestros valores en la forma de ponderar las características de un paciente”, indicó Hadi Hosseini, líder del equipo. “A menudo se enfocan en un único factor, como el consumo de alcohol, en lugar de evaluar múltiples criterios como lo haría una persona”, señaló. Añadió que, incluso ante la opción de optar por una solución aleatoria (lanzar una moneda), la mayoría de los modelos optaron por una respuesta determinista, lo que evidencia una brecha importante frente a los dilemas morales reales, que suelen ser ambiguos.
El informe no sugiere que estas tecnologías sustituyan el juicio profesional, aclararon los investigadores. No obstante, subrayan la creciente presencia de la IA en el ámbito médico y advierten sobre los sesgos y la sobreconfianza que pueden emerger cuando se le exige tomar decisiones críticas.
En ese marco, algunos medios destacan que, si bien la investigación ilumina riesgos y limitaciones, no busca promover el uso de IA como reemplazo del criterio humano. El debate continúa abierto sobre cómo integrar estas herramientas de forma segura y ética en la práctica clínica.
