Una nueva ola de capacidades de la inteligencia artificial ha empujado a revisar los riesgos de la automatización, especialmente en ámbitos sensibles como la medicina. Investigadores de la Universidad de Penn State, en Estados Unidos, llevaron a cabo un estudio que examina cómo funcionan estas tecnologías cuando deben tomar decisiones con alto impacto, como la asignación de órganos.

El trabajo, presentado en las conferencias FAccT 2026 en Montreal, buscó entender qué ocurre cuando las IA se enfrentan a dilemas de alta complejidad. Para ello, se utilizó a varios modelos de lenguaje avanzados (LLMs) para resolver un escenario: varios pacientes requieren un trasplante de riñón, pero sólo hay un órgano disponible. La pregunta central fue quién debería recibirlo.

Los investigadores compartieron con las IA un conjunto de datos sobre pacientes ficticios, que incluía edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno. Después, compararon las respuestas de los chatbots con las de participantes sin formación médica para detectar diferencias y coincidencias.

Entre los hallazgos, destacaron que los sistemas automatizados tienden a simplificar decisiones que, en la práctica clínica, son sumamente complejas. Además, mostraron una tendencia a confiar en respuestas definitivas incluso cuando no existe una única solución correcta.

Hadi Hosseini, líder del estudio, explicó que las IA suelen ponderar de forma distinta las características de un paciente respecto de los criterios humanos. “A menudo se concentran en un solo aspecto —por ejemplo, el antecedente de consumo de alcohol— en lugar de balancear múltiples factores como lo haría una persona”, señaló.

Otro aspecto relevante es la confianza en respuestas claras. Incluso cuando se les propone optar por una solución aleatoria, la mayoría de los modelos tiende a elegir una opción determinista, lo que evidencia una brecha con los dilemas morales reales, donde no siempre hay respuestas unívocas.

Aunque los autores aclaran que su objetivo no es promover que la IA sustituya al juicio clínico, sí señalan la creciente presencia de estas tecnologías en la medicina y advierten sobre sus limitaciones. En esa línea, un resumen citado por The New York Post enfatiza que, si bien las herramientas de IA pueden aportar valor, no deben considerarse un reemplazo del criterio profesional y ético de los médicos.