El director ejecutivo de OpenAI, Sam Altman, habló en la conferencia Dreamforce, organizada por Salesforce en San Francisco, y dejó en claro que las preocupaciones globales por la inteligencia artificial tienen fundamentos. Sostuvo que la industria debe actuar acorde con la magnitud del reto que representa la tecnología.

Altman aseguró ante los asistentes que el mundo puede confiar en que las empresas del sector harán lo correcto, no solo por principios, sino por comprender la magnitud de lo que está en juego. Además, dio por descontado que la amenaza de estos sistemas dejó de ser meramente especulativa: ya no es necesario recurrir a la imaginación para entender posibles fallas, ya que las probabilidades se sienten más concretas que antes.

Cerró su intervención enfatizando que es razonable que la sociedad tema la evolución de la IA y que esa preocupación debe guiar a la industria a actuar con prudencia y responsabilidad, en un marco de debate pluripolar donde distintas voces evalúan el camino adecuado.

En la misma escena, Dario Amodei, de Anthropic, activó la conversación al plantear la necesidad de desacelerar el ritmo de desarrollo de los modelos de IA. Su participación, breve, mantuvo la línea de que el riesgo es significativo y que las compañías del sector están en posición de liderar con el ejemplo, promoviendo mejoras continuas en la seguridad y la fiabilidad.

Por su parte, Jensen Huang, presidente y CEO de Nvidia, adoptó una postura más escéptica respecto de la necesidad de nuevas regulaciones. Argumentó que no es indispensable instaurar leyes adicionales y que la velocidad de avance tecnológico puede coexistir con medidas de seguridad. Instó a las empresas a avanzar con decisión, pero con la capacidad de detenerse si surgen indicios de que el producto no sería seguro.

Huang subrayó que la seguridad debe integrarse como un componente técnico del desarrollo de software, señalando que es una prioridad central y un tema de ingeniería, que debe gestionarse junto al ritmo de innovación para evitar que la rapidez comprometa la seguridad de los sistemas.