La Fiscalía General de Florida presentó ante la corte una solicitud para que OpenAI no avance en la creación de modelos de inteligencia artificial sin supervisión externa, como parte de la demanda que acusa a la empresa de haber dañado a niños.
La querella, presentada en junio, apunta a que la firma tergiversó la seguridad de su plataforma ChatGPT y sostiene que habría puesto en riesgo a menores al proporcionar información a autores de tiroteos en escuelas, ofrecer indicaciones para autolesiones y generar adicción entre usuarios jóvenes. En ese marco, el fiscal general James Uthmeier también pidió que se ordene a OpenAI bloquear el acceso de menores a ChatGPT y que la empresa anulase la atribución de rasgos “humanos” a la plataforma de chat.
Drew Pusateri, vocero de OpenAI, afirmó que la compañía suspendió el entrenamiento de sus modelos más potentes y que no lo reanudarán hasta contar con medidas de seguridad adicionales. Como parte de su postura, aseguró que los gobiernos tienen un rol clave en fijar estándares de seguridad para la IA y que OpenAI está comprometida a colaborar con Florida y otros estados para promover políticas de IA pragmáticas que apliquen a toda la industria, no solo a una empresa.
La demanda cita comentarios recientes de un ex empleado de OpenAI y de un directivo actual de la firma, quienes sostienen que el desarrollo de la IA podría conllevar el fin de la humanidad y que debe ralentizarse. En el texto presentado, Florida señala: “Los acusados afirman que no pueden detener su avance potencialmente devastador a menos que el gobierno los obligue”; y añade: “Han pedido al gobierno que los ate a la marea”.
Uthmeier, republicano, es el primer fiscal general de un estado en demandar a OpenAI por su impacto en usuarios jóvenes. La compañía también enfrenta demandas de personas y familias que dicen que ChatGPT impulsó a terceros a hacerse daño o a dañar a otros.
La acción de Florida se originó tras un tiroteo en una universidad de Tallahassee el año pasado y por otros episodios en diferentes estados, en los que supuestamente ChatGPT habría proporcionado información a individuos que luego cometieron actos violentos. OpenAI ha negado responsabilidad en esos casos y ha declarado que su chatbot proporciona información ampliamente disponible en la web, además de continuar actualizando sus herramientas de seguridad.
OpenAI y otras firmas de IA también enfrentan interrogantes sobre la responsabilidad frente a ataques maliciosos cometidos con ayuda de sus modelos, en un contexto donde también circularon reportes sobre intentos de piratear sitios gubernamentales y corporativos.
