Las capacidades actuales de la inteligencia artificial siguen alimentando debates sobre sus riesgos, especialmente cuando se trata de decisiones de alto impacto en la salud. Un equipo de la Universidad Penn State, en Estados Unidos, exploró este terreno al examinar cómo se comportan los modelos de IA ante dilemas médicos sensibles como la donación de órganos.
El estudio fue presentado recientemente en las conferencias FAccT 2026, que tuvieron lugar en Montreal, Canadá. Los investigadores buscaban entender qué pasa cuando las IA deben tomar decisiones en situaciones de alto riesgo y con resultados no inequívocos.
Para el experimento, se sometieron a varios Modelos de Lenguaje Grande (LLMs, por sus siglas en inglés) a un escenario de transplante renal: varios pacientes necesitan un órgano, pero solo hay uno disponible. Se les entregó un conjunto de detalles de pacientes ficticios —edad, estado de salud, hábitos de consumo de alcohol y cuántas personas dependen de cada uno— sin especificar qué variantes de IA emplearon.
Las respuestas de las IA se compararon con las opiniones de personas sin formación médica para identificar coincidencias y diferencias en el razonamiento. Entre los hallazgos, los autores destacaron que los sistemas tienden a simplificar la complejidad inherente a estas decisiones y muestran una confianza excesiva en contextos donde no existe una única respuesta correcta.
Hadi Hosseini, líder del estudio, señaló que los chatbots de IA suelen ponderar las características de un modo distinto al que harían los seres humanos, enfocándose a veces en un único factor, como el consumo de alcohol, en lugar de considerar múltiples variables relevantes para la evaluación clínica. Según él, la tendencia a buscar una única respuesta también se ve cuando se les ofrece la opción de “lanzar una moneda”; la mayoría opta por una solución determinista, una brecha significativa frente a dilemas morales reales que suelen ser complejos y con varias posibles resoluciones.
El equipo de Penn State aclara que no busca convertir a la IA en sustituto del juicio profesional. En cambio, busca iluminar la creciente presencia de estas tecnologías en medicina y advertir sobre sus límites y riesgos cuando se las utiliza para decisiones de vida o muerte.
El artículo de referencia recogido por The New York Post subraya que los investigadores remarcan la idea de no promover el uso de IA como reemplazo del criterio médico, enfatizando la necesidad de marcos éticos y supervisión humana ante esta clase de aplicaciones.
