La secuencia comenzó con la revelación de un hecho vinculado a un adolescente de 15 años de Quilmes, quien habría utilizado ChatGPT para plantear la posibilidad de ejecutar un atentado contra su escuela y dañar a sus compañeros. El plan tenía fecha prevista para 2027, aunque también se barajó la opción de adelantarlo.

Autoridades argentinas confirmaron que, entre las señales que generaron preocupación, figuraba el interés del menor por adquirir vestimenta y cuchillos tácticos. En las conversaciones también se indicó que era menor de edad. La alerta llegó primero al FBI y, posteriormente, a la Unidad de Investigación Antiterrorista de la Policía Federal Argentina (PFA).

Ocho días después del primer aviso, la PFA realizó un allanamiento en su domicilio, donde secuestró dos teléfonos celulares, guantes tácticos, ropa camuflada, una balaclava con diseño de calavera, un pasamontañas y gafas de protección. También se halló una fotografía del joven probándose máscaras. La causa quedó caratulada como intimidación pública en grado de tentativa.

El episodio ofrece una mirada sobre un aspecto de las herramientas de inteligencia artificial que suele quedar fuera del debate público sobre privacidad: los chats no son solo intercambios entre usuario y modelo aislado. El contenido debe atravesar la infraestructura de la empresa para que el sistema pueda responder, y puede ser sujeto a análisis por mecanismos automáticos de seguridad. En ciertos casos, ese proceso puede incluir revisión humana y, si se detecta una amenaza grave para terceros, terminar en una denuncia ante las autoridades.

“A partir de la información disponible, se indicó que un alumno menor de Quilmes consultó a la IA sobre lo necesario para llevar a cabo un atentado contra un colegio y sus docentes”, explicó Alejandro De Mena, auxiliar letrado de la Fiscalía Penal Juvenil N° 1 de Quilmes.

Si bien hasta ahora no se difundió el contenido completo de las conversaciones ni qué respuestas específicas dio ChatGPT, la pregunta sobre el manejo de las conversaciones por parte de la empresa no tiene una respuesta clara en sus términos y condiciones. OpenAI no publica un detalle técnico que permita reconstruir cada paso desde que el usuario envía una consulta hasta la respuesta del sistema.