El logro. Los modelos se mejoran entrenándolos para que adquieran mayores capacidades y procesos más eficientes. Lo que han conseguido unos científicos del MIT CSAIL es un atajo que podría desembocar en un notable avance para los modelos más contenidos: lograron que una IA superior mejorase una inferior editando una porción mínima de sus pesos.
El proceso. Los científicos utilizaron Qwen3.5-0.8B e intentaron que el modelo subiese su nivel en el procesamiento matemático. Para ello, pusieron a GPT-6 Astra a modificar los pesos de su primo para resolver determinados bucles de razonamiento. Tras ese proceso, Qwen elevó sus capacidades en MATH-500 desde el 7,9 % hasta el 48,1 %.
No solo destaca el uso de otro modelo de lenguaje y la ausencia de entrenamiento, lo curioso es que Astra logró que Qwen resolviera mejor los problemas matemáticos a fuerza de retocar sus pesos. Concretamente, Astra actuó sobre el 0,016 % de los pesos de Qwen. El MIT ha denominado este proceso Weight-Space Programming (programación de pesos).
No es el fin del entrenamiento. El avance es importante y abre una nueva línea de investigación. También plantea un camino por el que las distintas empresas podrían mejorar sus modelos baratos de la misma manera: de forma barata. Suena prometedor, pero aún tiene por delante demasiados obstáculos.
