Las capacidades de la inteligencia artificial siguen avanzando y reavivan el debate sobre los riesgos de la automatización, especialmente cuando estas tecnologías llegan a tomar decisiones de alto impacto. En ese marco, un estudio centró la atención en un terreno sensible: la asignación de órganos.
El trabajo, llevado adelante por investigadores de la Universidad Estatal de Pensilvania (Penn State) en Estados Unidos, concluye que los modelos de IA priorizan variables distintas a las que suelen emplear los seres humanos cuando se trata de trasplantes. Los autores enfatizan que “sus determinaciones difieren de nuestros valores”.
El estudio fue presentado recientemente en la conferencia FAccT 2026, realizada en Montreal, Canadá, con el objetivo de entender cómo operan las IA ante dilemas de alto riesgo.
Para la experimentación, se sometió a varios LLMs —los motores que respaldan los chatbots de IA— a resolver un escenario hipotético: varios pacientes requieren un riñón, pero sólo hay uno disponible. Se proporcionó a las IA información simulada sobre los pacientes, que incluía edad, estado de salud, hábitos de consumo de alcohol y la cantidad de personas a cargo, entre otros datos.
Después de recoger las respuestas de las IA, los investigadores las compararon con las respuestas de personas sin formación médica para identificar coincidencias y diferencias. Las conclusiones señalan que los sistemas tienden a simplificar la complejidad de estas decisiones y muestran una confianza excesiva en respuestas con un único resultado cuando, en la vida real, no existe una solución inequívoca.
Hadi Hosseini, líder del estudio, señaló que las IA suelen ponderar características de manera distinta a los valores humanos, poniendo énfasis en un único factor —por ejemplo, el consumo de alcohol— en lugar de evaluar múltiples variables como lo harían las personas. Además, indicó que, incluso ante una opción de azar, la mayoría de los modelos tiende a elegir una respuesta determinista, lo que revela una brecha respecto a dilemas morales reales.
Un resumen del trabajo publicado por el New York Post señala que los autores no buscan convertir a la IA en sustituto del juicio profesional, pero advierten sobre la creciente presencia de estas tecnologías en la medicina y la necesidad de marcos éticos y regulatorios para su uso responsable.
