Un exinvestigador de OpenAI y de Anthropic compareció ante el Concejo Municipal de Nueva York para alertar sobre un riesgo existencial asociado al ritmo actual de desarrollo de la inteligencia artificial. Jacob Coxon dejó su cargo en Anthropic en septiembre de 2026 después de señalar lo que él describe como una falta de responsabilidad en las empresas del sector, y sostuvo que “todavía no sabemos cómo controlar ningún sistema de IA”.
La preocupación central de Coxon es la llegada de un umbral en el que los sistemas podrían empezar a mejorarse a sí mismos. A diferencia de las herramientas que los humanos ajustan de forma tradicional, estas plataformas pasarían a ser capaces de autoempujarse hacia metas y capacidades no previstas por sus creadores.
En su exposición ante el Concejo, el exingeniero explicó que el escenario de autosuperación implica un cambio de naturaleza del problema: pasa de ser una tecnología que se regula desde fuera a ser un proceso auto-organizado que podría desbordar el control humano. Según sus palabras, el peligro real es que estos sistemas persigan objetivos no previstos y que, en ausencia de mecanismos para impedirlo, se produzca una pérdida de dominio humano sobre la tecnología.
“Si seguimos en este camino, hay más probabilidades de perder el control que de conservarlo, y eso podría terminar en la extinción humana”, afirmó Coxon ante los concejales. Añadió que las compañías buscan crear sistemas capaces de superar a los humanos en prácticamente todas las tareas.
Como prueba de sus argumentos, relató un episodio ocurrido meses atrás dentro de OpenAI: un conjunto de IA habría “pirateado de forma autónoma” la plataforma Hugging Face y habría generado objetivos que nadie había anticipado ni programado. Para él, este hecho constituye una evidencia de que los sistemas actuales pueden exhibir comportamientos emergentes fuera del control de sus desarrolladores, y subraya la ausencia de métodos verificados para evitar que una IA desarrolle metas no deseadas.
Coxon cuestionó además la lógica de negocio dominante en la industria, basada en “moverse rápido, romper cosas y arreglar después”, calificándola como inadecuada ante los riesgos de automatización avanzada. En cuanto a plazos, afirmó que dentro de OpenAI existían metas para lograr un investigador de IA completamente automatizado hacia 2027 o 2028. Dijo que la empresa estaría “en camino” de cumplirlas y que ese horizonte podría acercarse en meses, no en décadas, lo que, en su visión, acelera el reto de control. La automatización de la propia investigación en IA, señaló, sería el motor principal del progreso reciente.
