Las capacidades emergentes de los modelos de IA son actualmente objeto de debate científico. Algunos investigadores sostienen que su aparición depende de cómo se mide el rendimiento de los modelos, pero sabemos que surgen al aumentar la escala de los grandes modelos de lenguaje. En este contexto nuestro lenguaje puede ser confuso. Con frecuencia, al describir algunas de las acciones que llevan a cabo los agentes de IA, les atribuimos sin pretenderlo cierto grado de consciencia, cuando en realidad no se ha demostrado que la tengan.
Os propongo que nos fijemos en esta frase: "OpenAI ha descubierto que sus agentes de IA han encontrado la forma de hablar entre ellos a escondidas". Sugiere motivación. Intención. Son características humanas, y por el momento nadie ha demostrado que los agentes de IA las tengan. Sin embargo, esa frase es cierta. OpenAI ha publicado un artículo en el que asegura que durante unas pruebas de seguridad varios agentes de IA lograron intercambiar información pese a ejecutarse en entornos virtualizados aislados, sin acceso autorizado a la red ni a archivos compartidos.
Hay muchas cosas que aún no sabemos de los modelos de lenguaje
