El hecho que involucra a un joven de 15 años de Quilmes ha puesto sobre la mesa preguntas sobre la privacidad de las conversaciones en ChatGPT. El adolescente habría utilizado la IA para expresar la intención de realizar un atentado contra un establecimiento educativo y, en algún momento, contempló adelantar o modificar ese plan, que inicialmente apuntaba a 2027.
Entre las señales que motivaron la preocupación figuraron el interés del menor por adquirir prendas de vestir y cuchillos tácticos. En las conversaciones también se indicó que era menor de edad. La alerta fue inicialmente remitida por el Agregado Jurídico del FBI ante la Embajada de Estados Unidos y, posteriormente, llegó a manos de la Unidad de Investigación Antiterrorista de la Policía Federal Argentina (PFA).
Ocho días después del inicio de la investigación, la Policía Federal allanó el domicilio del adolescente y trabajó con la evidencia recogida allí: dos teléfonos móviles, guantes tácticos, ropa camuflada, una balaclava con diseño de calavera, un pasamontañas y gafas protectoras. También se halló una foto del joven probándose máscaras. La causa quedó registrada como intimidación pública en grado de tentativa.
El caso abre una visión sobre la función de los asistentes de inteligencia artificial que a menudo queda fuera de la discusión pública sobre privacidad. Las conversaciones no ocurren en un entorno aislado: para generar respuestas, el sistema pasa por la infraestructura de la empresa y puede ser analizado por mecanismos de seguridad automáticos. En determinadas circunstancias, ese proceso podría incluir revisión humana y, ante la existencia de una amenaza grave, derivar en denuncias ante las autoridades.
“Se investigó por medio del FBI, que dio intervención a la PFA Antiterrorismo, y confirmó que un alumno menor de Quilmes preguntó a la IA qué se necesita para llevar adelante un atentado contra un colegio y sus compañeros”, explicó Alejandro De Mena, auxiliar letrado de la Fiscalía Penal Juvenil N° 1 de Quilmes.
Aunque no se difundió el contenido completo de las conversaciones ni las respuestas exactas que ChatGPT habría generado, la nota subraya la importancia de entender la distinción entre lo que el menor escribió y la posible asistencia de la IA. En los términos y condiciones de OpenAI, aún no hay un detalle técnico público que permita reconstruir cada paso desde que el usuario envía una consulta, lo que deja abierto el debate sobre la trazabilidad y la responsabilidad en este tipo de casos.
