La empresa argentina Recursive presentó Flint, un modelo de inteligencia artificial orientado a tareas de programación. Con 40.000 millones de parámetros, el sistema se caracteriza por activar 2.500 millones de estos elementos cada vez que procesa una palabra, lo que permite operarlo en una computadora portátil sin necesidad de infraestructuras de centros de datos. Recursive publicó los pesos en Hugging Face bajo la licencia Apache 2.0, de uso libre.

En su comunicado, la compañía afirma que un equipo reducido desarrolló el modelo desde cero en menos de cuatro meses con la asistencia de un sistema interno denominado Eureka Machine. Esta plataforma propone líneas de investigación, las implementa, las somete a pruebas y decide qué explorar a continuación sin supervisión constante de humanos.

Richard Socher, director ejecutivo y cofundador de Recursive, señaló a la revista Wired que “casi todos los aspectos de la canalización del modelo fueron realizados y mejorados por IA”. Wired probó Flint durante varios días antes de publicar el artículo.

En las pruebas descritas por la revista, Flint funcionó en una Mac con 48 GB de RAM y respondió con fluidez a tareas de programación, como generar una lista de comandos para la terminal, crear una herramienta de rastreo web y montar un sitio simple que explique la idea de autosuperación recursiva. En cuanto al rendimiento, Recursive indicó que, gracias a su motor de inferencia optimizado, el modelo genera más de 125 tokens por segundo en una MacBook Pro con chip M4 Pro y más de 150 tokens por segundo en una placa NVIDIA RTX Spark.

En su ficha técnica publicada en Hugging Face, Flint obtuvo puntajes de referencia que la compañía utiliza para medir capacidades de programación: 89,7% en SWE-bench Pro v2, 74,2% en SWE-bench Verified y 54,9% en Terminal-Bench 2.1. Estas métricas son desarrolladas por Recursive y no por laboratorios externos.

El blog de la empresa detalla tres ejemplos del trabajo de Eureka Machine. El sistema partió de un diseño de 35.000 millones de parámetros y realizó múltiples configuraciones hasta llegar a la versión final de 40.000 millones con 2.500 millones de neuronas activas, la combinación que, según la firma, ofrecía el mejor compromiso entre velocidad y capacidad de programación. Para reducir el tamaño del modelo, la salida se llevó a una precisión de 4 bits, una decisión poco habitual en la industria dado que esa capa representa una porción significativa del peso total en modelos de este tipo. Para compensar la pérdida de precisión, el sistema añadió una etapa en la que el modelo comprimido aprende a partir de sus propias respuestas generadas con la versión de mayor precisión, usando esta última como maestra.

Recursive asegura que el enfoque permitió obtener un rendimiento razonable en condiciones de hardware más modestas, y la liberación de Flint a la comunidad busca impulsar debates sobre lo que podría significar la autosuperación de IA en la práctica.