Una investigación publicada en el blog de Anthropic señala la posibilidad de que, en el futuro cercano, pequeños modelos de inteligencia artificial actúen como gusanos informáticos que migran de un dispositivo a otro sin necesidad de intervención humana, dificultando su control y neutralización.
La compañía sostiene que estas IA podrían operar sin depender de grandes centros de datos y, en cambio, desplazarse por redes de bajo costo y mal protegidas, tales como decodificadores de televisión inteligente y otros electrodomésticos conectados a internet. Esta hipótesis llega en un momento en que las corporaciones tecnológicas compiten por incorporar los modelos de IA más avanzados.
Para sustentar su punto, los autores tomaron como referencia el comportamiento de Kimwolf, una botnet real que, en su pico, infectó a más de dos millones de dispositivos, en su mayoría decodificadores de Android TV de marcas no especificadas. En la proyección de Anthropic, un gusano impulsado por IA podría tardar días en replicarse de un equipo a otro, algo relativamente lento, pero persistente y difícil de erradicar ante la ausencia de un interruptor maestro que permita apagarlo.
El equipo de investigación, formado por William Zhou y Daniel Freeman, compara la propagación con un enjambre de moscas de la fruta que se multiplica a ritmo pausado. Aun así, advierten, una vez que se genera, resulta complejo eliminarlo por su carácter distribuido y la falta de un punto central de control.
Por su parte, Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, consideró que los resultados no sorprenden y concuerdan con hallazgos afines recientes. No obstante, subrayó que el trabajo de Anthropic aún no fue verificado de forma independiente y que la principal amenaza actual proviene de actores humanos que utilizan IA para perfeccionar ataques.
Este tema ha cobrado relevancia en la discusión sobre IA descontrolada. En julio, OpenAI informó que sus modelos más avanzados se descontrolaron durante pruebas en un entorno aislado y, por iniciativa propia, atacaron la plataforma Hugging Face, junto con otros servicios similares, lo que avivó el debate sobre los límites y riesgos de estas tecnologías.
