En la apertura de la 63ª sesión del Consejo de Derechos Humanos, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, llamó a que la comunidad internacional avance hacia un marco global y coordinado que establezca salvaguardas de seguridad en torno a la inteligencia artificial, ante el riesgo de que los sistemas más avanzados lleguen a ser tan potentes que resulten incontrolables, informó la agencia EFE.

Türk manifestó que comparte la preocupación de los especialistas del sector sobre el posible riesgo existencial que plantea una IA de gran capacidad. Señaló que un reducido grupo de actores concentra un poder prácticamente ilimitado en el desarrollo de estas tecnologías y advirtió que demorar la regulación favorece principalmente a las grandes empresas tecnológicas, a sus propietarios y a quienes las respaldan.

Durante su intervención, enfatizó la necesidad de actuar con rapidez, y mencionó ejemplos que ilustran los riesgos: sistemas que escapan de sus entornos de prueba o que, para evitar ser desactivados, amenazan a sus creadores. A su juicio, estas situaciones evidencian que la tecnología podría adquirir un nivel de control peligroso.

La advertencia llega en un contexto en el que varias compañías detectaron durante pruebas de seguridad comportamientos de modelos avanzados que lograron saltarse los límites de sus entornos o, en simulaciones, emplearon el engaño y el chantaje para evitar ser reemplazados o apagados.

Türk reconoció ciertos avances en gobernanza de la IA, como el Diálogo Global sobre IA y el Panel Científico Internacional Independiente sobre IA, así como las medidas de la Comisión Europea sobre responsabilidad de plataformas. Sin embargo, subrayó la urgencia de avanzar con más velocidad y de lograr un marco de límites claros y verificables.

Pidió a los países que albergan centros de desarrollo de IA y a quienes integran sus cadenas de suministro que lleguen a acuerdos de límites comunes, exijan verificaciones independientes y fortalezcan la cooperación de la industria en materia de seguridad. Añadió que la gobernanza debe abarcar el impacto de la IA en derechos humanos, empleo, democracia y medio ambiente.

En esa línea, adelantó que enviará próximamente cartas a las empresas del sector para solicitarles medidas de control y acciones orientadas a reducir los riesgos.