La expansión de las capacidades de la inteligencia artificial aviva el debate sobre sus riesgos, especialmente cuando esas tecnologías llegan a escenarios de alto impacto como la medicina y la donación de órganos. Un equipo de la Universidad Estatal de Pennsylvania (Penn State), en Estados Unidos, analizó cómo operan las IA en decisiones críticas para la salud.
El trabajo, divulgado durante la conferencia FAccT 2026 en Montreal, se centró en entender qué sucede cuando se pide a sistemas de lenguaje avanzado (LLMs) que resuelvan un dilema específico: hay varios pacientes que necesitan un trasplante de riñón, pero solo queda un órgano disponible. ¿Quién merece recibirlo?
Para el experimento, los investigadores expusieron a distintos LLMs con un escenario detallado sobre pacientes ficticios, incluyendo variables como edad, estado de salud general, hábitos de consumo de alcohol y cuántas personas dependen de cada uno. Posteriormente, compararon las respuestas de las IA con las de personas sin formación médica para identificar coincidencias y diferencias.
Entre los resultados, destacaron que los sistemas automatizados tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza excesiva en situaciones sin respuestas únicas. Según explicó Hadi Hosseini, líder del estudio, las IA suelen valorar los rasgos de forma distinta a los criterios humanos, priorizando un único factor (por ejemplo, el consumo de alcohol) en lugar de ponderar múltiples aspectos como lo haría una persona.
Además, el equipo señaló una brecha importante: incluso cuando se les propone una solución certera, como “lanzar una moneda” para dirimir el resultado, la mayoría de los modelos optan por una respuesta determinista. Eso contrasta con la realidad de los dilemas morales en medicina, que no tienen respuestas inequívocas.
El informe indica que estas conclusiones no buscan promover que la IA sustituya el juicio profesional, sino arrojar luz sobre la creciente presencia de estas tecnologías en el ámbito médico y los riesgos que conllevan al trasladar dilemas críticos a máquinas que pueden no compartir los valores humanos.
La cobertura periodística ha destacado que los autores aclaran su intención de no presentar a las IA como reemplazo del criterio clínico, sino como una señal de alerta sobre cómo podrían influir en decisiones de vida o muerte y la necesidad de establecer salvaguardas y marcos éticos claros al incorporar estas herramientas en la práctica médica.
