Durante la conferencia Dreamforce, organizada por Salesforce en San Francisco, Sam Altman, presidente ejecutivo de OpenAI, dejó claro que las preocupaciones globales por la inteligencia artificial no son infundadas y que el sector debe ajustar su conducta a la envergadura del desafío. En un contexto de intenso debate entre líderes tecnológicos sobre los riesgos existenciales que podría implicar la IA para la humanidad, el ejecutivo subrayó la necesidad de actuar con responsabilidad.

“El mundo puede confiar en que haremos lo correcto porque es lo correcto y porque entendemos la magnitud de todo esto”, afirmó Altman ante la audiencia. Su intervención fue una validación de las alarmas que circulan desde hace días sobre los riesgos de estos sistemas, destacando que la amenaza ya no es meramente especulativa y que es posible visualizar escenarios negativos con mayor claridad.

Para cerrar, Altman dejó una síntesis de su postura frente al temor colectivo: considera razonable que exista miedo ante estas tecnologías. Sus palabras formaron parte de un panel donde distintas voces del sector expusieron visiones contrapuestas sobre cómo abordar estos riesgos.

Entre las voces destacadas, Dario Amodei, de Anthropic, puso el foco en la necesidad de desacelerar el ritmo de desarrollo de los modelos de IA. Aunque su participación fue breve, mantuvo su postura inicial de que el riesgo asociado es sustancial y que las empresas deben servir de ejemplo para toda la industria, promoviendo mejoras continuas.

Por otro lado, Jensen Huang, presidente ejecutivo de Nvidia, adoptó una postura más escéptica sobre la necesidad de nuevas regulaciones. Sostuvo que el mercado puede avanzar sin perder seguridad y que la velocidad de innovación no es incompatible con controles necesarios. Su mensaje fue claro: avanzar con determinación, pero sin perder de vista la seguridad.

Huang añadió un llamado a las compañías para que empujen adelante, pero con la capacidad de detenerse si perciben que el producto podría no ser seguro. En su visión, la seguridad debe verse como un componente técnico central del desarrollo de software, prioritaria dentro de la ingeniería y del proceso de lanzamiento de nuevos sistemas.