La agencia de recaudación británica, HM Revenue and Customs (HMRC), diagramó un plan para enviar funcionarios a foros en línea como Reddit y a distintas redes sociales con el objetivo de corregir el asesoramiento fiscal incorrecto que emanan los chatbots de inteligencia artificial, según informó Bloomberg.
James Baker, jefe de comunicación digital de HMRC, afirmó que cuando las fuentes se contradicen, la confianza se debilita y aumenta el riesgo de cometer errores costosos; por ello, la intervención proactiva con información fiable en los lugares adecuados puede orientar al ecosistema informativo para responder a la desinformación de forma rápida y eficiente.
Los modelos de IA han difundido, en varias ocasiones, información imprecisa sobre impuestos, a menudo basada en contenidos de redes sociales, que llega a contribuyentes o se amplifica a través de distintas plataformas. Un episodio reciente evidenció la magnitud del problema: buscadores y resúmenes generados por IA difundieron una fecha incorrecta sobre los plazos del IVA para empresas. Una investigación de HMRC rastreó el origen a un sitio web cuyo contenido fue copiado por otros sitios y difundido en redes, para luego ser recogido por los sistemas de IA.
Baker destacó que ese caso mostró cuán fragmentado se volvió el recorrido de la información para el ciudadano, que hoy se mueve con rapidez entre buscadores, herramientas de IA, aplicaciones y redes sociales. Una información falsa de este tipo podría llevar a que los contribuyentes incumplieran plazos y recibieran multas.
La agencia planea desplegar a los llamados “embajadores digitales”: funcionarios que conversarán en foros y redes para señalar la información correcta. Baker los describió como una versión digital proactiva de los voceros que HMRC presenta ante los medios y señaló que ayudarán a generar confianza señalando la información adecuada.
Además, HMRC activó una estrategia denominada “HMRC Verified”, un sistema de alerta destinado a contrarrestar la desinformación en línea y orientar a los modelos de lenguaje hacia la guía oficial del organismo. Bloomberg indicó que los grandes modelos de IA ya respondieron a estos cambios y comenzaron a priorizar la información correcta.
La entidad evalúa también una herramienta asistida por IA que localizaría afirmaciones en la web, las contrastaría con su guía oficial y redactaría una respuesta para que un empleado la revise y apruebe antes de publicarla. Para avanzar en ello, HMRC instruyó a su personal para que el contenido institucional sea más accesible para los modelos de lenguaje.
La confianza en la IA para asuntos financieros ya está alta entre la población británica: según una encuesta citada por Bloomberg, aproximadamente tres de cada diez británicos recurrieron a chatbots para solicitar asesoramiento financiero.
