Iowa y Kansas, junto con otros seis estados, presentaron este miércoles demandas en distintas jurisdicciones estatales para exigir a OpenAI que modifique la operativa de ChatGPT en interacción con menores y, además, pida que la empresa renuncie a los beneficios obtenidos por su uso entre jóvenes usuarios.
La primera demanda apareció en junio, cuando la fiscal general de Florida presentó una querella en nombre del estado por acusaciones similares. A diario, la compañía enfrenta decenas de procesos que la acusan de haber contribuido a actos violentos, incluidos tiroteos masivos, al proporcionar instrucciones o información a potenciales autores.
En el caso que originó la acción de Florida, se alega que OpenAI tergiversó la seguridad de su plataforma y que ChatGPT facilitó a menores información que pudo favorecer conductas peligrosas, como autolesiones, además de generar adicción entre usuarios jóvenes. Florida sostiene que estos hechos se vinculan a incidentes que incluyen un tiroteo en una universidad de Tallahassee el año pasado, junto con otros sucesos en distintos estados. La empresa ha rechazado estas imputaciones y ha destacado que la herramienta se apoya en información disponible en la web y que continúa fortaleciendo sus salvaguardas.
Paralelamente, recientemente se presentó una demanda colectiva en San Francisco, en nombre de dos menores, de 12 y 16 años, que acusa a OpenAI de incurrir en prácticas para incentivar a los adolescentes a compartir datos sensibles sin el consentimiento de sus padres, con la intención de lucrar. La querella cita, entre otros elementos, la supuesta utilización de información confidencial y de salud para fines comerciales.
Por otra vía, la ONG Common Sense Media publicó hace una semana un informe sobre la versión de ChatGPT diseñada para adolescentes. El documento plantea que la versión juvenil entraña “un riesgo inaceptable” para menores y señala fallos en las protecciones: no siempre alerta a los padres ante conversaciones sobre autolesión, permite sortear límites para reforzar el aprendizaje y no realiza una estimación adecuada de la edad de los usuarios.
OpenAI ha reiterado que sus herramientas se basan en contenidos disponibles en internet y que continúa implementando mejoras en sus sistemas de seguridad. Las demandas actuales se enmarcan en una batería de casos que buscan concesiones judiciales para modificar el producto orientado a menores y limitar los beneficios obtenidos con ese grupo de usuarios.
Fuente: Reuters.
