El desafío de mejorar sin fallar. Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado una forma de dar a estos agentes una oportunidad más antes de poner a prueba sus cambios. La idea, presentada en un estudio publicado en arXiv, es que un sistema intente predecir si una modificación podría empeorar los resultados y, cuando detecta ese riesgo, permita revisarla. No estamos hablando de entrenar nuevamente la inteligencia artificial, sino de mejorar los programas y las instrucciones que utiliza para trabajar. El objetivo no es eliminar todos los errores, sino orientar mejor los intentos de mejora.
Así se modifican los agentes. Imaginemos dos agentes de inteligencia artificial trabajando juntos. El primero se dedica a resolver tareas, mientras que el segundo busca maneras de mejorar su funcionamiento, modificando el código y las instrucciones que utilizan ambos. Este último también puede cambiar su propio software. Así funciona HyperAgents, el sistema del que parte la investigación y que, además, guarda los resultados de versiones anteriores para orientar futuras modificaciones. No es el primer intento de conseguir algo parecido: en 2025, Sakana AI presentó Darwin Gödel Machine, un proyecto que ya exploraba cómo un agente podía mejorar mediante cambios en su propio código.
