La renuncia y denuncia de Jacob Coxon, investigador que pasó por OpenAI y luego por Anthropic, por considerar que la carrera tecnológica impulsada por las grandes empresas es “irresponsable” y no evalúa adecuadamente los riesgos de que, si surge una “superinteligencia”, la IA pueda realizar ciberataques y obtener recursos o poder fuera del control humano, continúa generando controversia.
Coxon afirmó que la industria de la IA “está jugando con nuestras vidas”. En la conversación pública, Evan Hubinger, responsable de alineación en Anthropic, estimó que la probabilidad de que la IA mate a toda la humanidad podría rondar el 10%. Samuel Marks, especialista en seguridad de la misma empresa, sostuvo, a título personal, que algunos desarrolladores dan por hecho escenarios de extinción o resultados cercanos. Por su parte, Dario Amodei, director ejecutivo de Anthropic, reconoció la preocupación de Coxon en un texto en el que, si bien admite la necesidad de moderar el ritmo de avance, también indicó que la presión competitiva impide que se frene por completo.
La devolución de la situación no se limitó a la escena tecnológica: Elon Musk cuestionó el testimonio de Coxon y sugirió que su hilo en X podría haber sido un montaje coordinado. Aun así, tanto Musk como Sam Altman, CEO de OpenAI, coincidieron en la necesidad de desacelerar el desarrollo de la IA.
Las reacciones políticas en Estados Unidos no tardaron en aparecer. Bernie Sanders, senador socialista de Vermont, impulsó un proyecto para prohibir el desarrollo de la SuperInteligencia Artificial junto al demócrata Greg Casar, días antes de la denuncia de Coxon. Ted Cruz, senador republicano por Texas, calificó a la IA como un “riesgo catastrófico” y admitió su preocupación ante el posteo de Coxon. Chris Van Hollen, senador demócrata, pidió establecimiento de salvaguardas, un régimen de pruebas y un posible diálogo con China.
En este marco, Daron Acemoglu, premio Nobel de Economía 2024 e integrante del MIT, volvió a plantear su crítica ya vislumbrada en trabajos anteriores. En un extenso hilo en X, preguntó si el problema central es la IA excesivamente avanzada o una inteligencia distorsionada. Celebró que, por fin, algunos investigadores reconozcan que la carrera desenfrenada de estas empresas es irresponsable. Según Acemoglu, la cuestión crucial no es solo la capacidad de la IA, sino cómo esas capacidades se orientan respecto de objetivos humanos: el verdadero desafío es la alineación. Para él, el foco debe estar en cómo se entrenan los modelos, ya que estos “hacen cosas que no están en línea con lo que queremos” cuando se miden y optimizan métricas incompletas.
