Las capacidades actuales de la inteligencia artificial están alimentando un debate sobre los riesgos de la automatización, especialmente cuando se trata de decisiones de alto impacto como la donación de órganos. Investigadores de la Universidad de Penn State presentaron un informe en la conferencia FAccT 2026, realizada en Montreal, que analiza cómo los sistemas de IA abordan escenarios críticos en medicina.
El estudio se propuso entender qué sucede cuando a distintos modelos de lenguaje de gran tamaño (LLMs) se les solicita decidir, en una situación de escasez, quién debe recibir un riñón. En el experimento se expusieron a las IA perfiles de pacientes ficticios con datos como edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno. Posteriormente, se compararon sus respuestas con las de personas sin formación médica para detectar similitudes y diferencias.
Entre los hallazgos, los autores señalan que los sistemas automatizados tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza desproporcionada en escenarios sin una única respuesta correcta. “Las IA con frecuencia difieren de los valores humanos en cómo ponderan las características de un paciente”, comentó Hadi Hosseini, líder del estudio. “A veces se concentran en un único factor, como el consumo de alcohol, en lugar de considerar múltiples criterios que manejamos las personas”, añadió.
Otra observación relevante es la preferencia de las IA por respuestas deterministas. Incluso cuando se les propone la opción de “lanzar una moneda”, la mayoría opta por una salida segura y rígida, lo que revela una brecha frente a situaciones reales donde los dilemas morales pueden carecer de una solución única.
Los autores dejan claro que no buscan presentar a estas tecnologías como sustituto del juicio profesional, sino iluminar la creciente presencia de la IA en la medicina y alertar sobre sus limitaciones. En esa línea, los investigadores destacan la necesidad de marcos éticos y de supervisión humana para evitar que la IA desplace criterios clínicos fundamentales.
La cobertura de algunos medios, como el New York Post, señala que Penn State no pretende promover el reemplazo del criterio experto por parte de la IA. En cambio, subrayan que el estudio pone sobre la mesa riesgos y sesgos que deben ser considerados frente a la adopción de estas tecnologías en entornos médicos y de investigación.
