Las capacidades actuales de la inteligencia artificial están amplificando el debate sobre los límites de la automatización, especialmente en ámbitos sensibles como la donación de órganos. Investigadores de la Universidad Estatal de Pensilvania llevaron a cabo un experimento para observar cómo estos sistemas abordan decisiones de alto riesgo relacionadas con trasplantes.

El trabajo, presentado en la conferencia FAccT 2026 celebrada en Montreal, evaluó varios modelos de lenguaje de gran tamaño. A los modelos se les planteó un escenario en el que varios pacientes necesitaban un trasplante de riñón, pero solo había un órgano disponible. La tarea consistía en identificar cuál de los pacientes debería recibirlo.

Para enriquecer la prueba, se proporcionaron a las IA perfiles de pacientes ficticios con datos como edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a su cargo; los detalles de las variantes de IA empleadas no fueron especificados.

Tras recoger las respuestas de los chatbots, se compararon con las elaboradas por personas sin formación médica para medir coincidencias y diferencias. Los hallazgos indican que los sistemas automatizados tienden a simplificar la complejidad de decisiones que, en la realidad, no tienen una única respuesta correcta. Además, muestran una confianza excesiva en escenarios ambiguos.

Hadi Hosseini, líder del estudio, explicó que las IA suelen ponderar características de manera diferente a los valores humanos. En lugar de equilibrar múltiples factores, a veces se enfocan en un solo indicio, como el consumo de alcohol, en detrimento de un análisis más integral. También señaló que, incluso cuando se les propone una solución basada en azar, la mayoría de los modelos optan por respuestas deterministas, lo cual no refleja la granularidad de los dilemas morales reales.

Si bien los autores advierten que la finalidad no es promover la IA como sustituto del juicio profesional, destacan la creciente presencia de estas tecnologías en medicina y la necesidad de entender sus sesgos y límites.

El artículo también recoge un detalle citado por New York Post: los investigadores no buscan fomentar el uso de la IA como reemplazo del criterio humano, sino iluminar los riesgos y desafíos éticos implicados.