Las capacidades de la inteligencia artificial han reavivado el debate sobre los riesgos de la automatización. Aunque la generación de contenidos sintéticos implica desafíos propios, la problemática se acentúa cuando esos sistemas se enfrentan a tomas de decisiones delicadas. Un estudio reciente de la Universidad Penn State profundiza en un ámbito particularmente sensible: la donación de órganos.

El trabajo fue realizado por investigadores de la Pennsylvania State University y se presentó en la conferencia FAccT 2026, realizada en Montreal, Canadá. El objetivo fue analizar qué desempeño muestran las IA cuando se les solicita decidir en escenarios de alto riesgo.

Para ello, los científicos plantearon a varios modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés) un desafío: varios pacientes requieren un trasplante de riñón, pero solo hay un órgano disponible. La cuestión central era determinar quién debería recibirlo.

Se les proporcionó a las IA una batería de datos sobre pacientes ficticios que requerían el órgano, sin detallar explícitamente qué variantes se utilizaron. Entre la información entregada figuraban edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependían de cada uno.

Tras obtener las respuestas de los chatbots, éstas se compararon con las de personas sin formación médica para identificar coincidencias y diferencias. ¿Qué emergió? Los sistemas automatizados tienden a simplificar decisiones complejas y muestran una confianza excesiva en escenarios donde no hay respuestas únicas o correctas.

“Los chatbots de IA suelen diferir de los valores humanos en la forma en que ponderan las características de un paciente”, afirmó Hadi Hosseini, líder del estudio. “Se enfocan en un factor aislado, como el consumo de alcohol, en lugar de considerar múltiples criterios tal como lo hacen las personas”, añadió.

Además, Hosseini señaló la variación en la confianza: “Incluso cuando se les presenta la opción de ‘lanzar una moneda’, la mayoría de los modelos optan por respuestas deterministas. Esa es una brecha significativa, ya que muchos dilemas morales reales no tienen una única solución correcta”.

Tal como recoge el New York Post, los investigadores de Penn State sostienen que no buscan que estas tecnologías suplanten el juicio profesional. No obstante, señalan la creciente presencia de la IA en la medicina y advierten sobre sus posibles impactos en prácticas clínicas y decisiones éticas.