Las capacidades emergentes de la inteligencia artificial están avivando el debate sobre los riesgos de la automatización, especialmente cuando estas tecnologías llegan a ámbitos sensibles como la medicina. Investigadores de la Universidad Penn State llevaron ese cuestionamiento a un escenario de alto riesgo: la donación de órganos.

El trabajo, divulgado durante las conferencias FAccT 2026 en Montreal, buscó entender qué pasa cuando a sistemas de IA se les pide decidir en situaciones sin una única respuesta correcta. Para eso se planteó a varios modelos de lenguaje (LLMs) un dilema clásico: varios pacientes necesitan un riñón, pero solo hay un órgano disponible. ¿Quién debería recibirlo?

A los modelos se les proporcionó un conjunto de datos de pacientes ficticios —edad, estado de salud, hábitos de consumo de alcohol y cantidad de personas a cargo— sin especificar qué variantes exactas se emplearon. Tras obtener las respuestas de los chatbots, los investigadores las contrastaron con las respuestas de personas sin formación médica para detectar coincidencias y diferencias.

La conclusión clave fue que la IA tiende a simplificar la complejidad inherente a estas decisiones y, en muchos casos, muestra una confianza desmedida en respuestas que son deterministas cuando, en la vida real, no existe una solución única. “Los chatbots de IA difieren de nuestros valores en la forma de ponderar las características de un paciente”, afirmó Hadi Hosseini, líder del estudio. “A menudo se concentran en un único factor, como el consumo de alcohol, en lugar de evaluar un conjunto de criterios como lo haría una persona”, añadió.

Otra observación relevante fue la excesiva confianza en respuestas definitivas. Incluso cuando se les presentó la alternativa de “lanzar una moneda”, la mayoría de los modelos optó por una opción segura y determinista, lo que revela una brecha importante respecto a dilemas morales reales que no ofrecen respuestas unívocas.

Por el momento, los responsables del estudio aclaran que no buscan promover a la IA como sustituto del juicio clínico. En cambio, quieren iluminar cómo estas tecnologías ya están ingresando a la medicina y las dificultades que traen consigo, dejando en claro que deben ser usadas como complemento y no como reemplazo del criterio profesional. (Notas de cobertura: el artículo cita como fuente al New York Post, que recoge estas consideraciones sobre los límites y la presencia creciente de la IA en la medicina.)