"Personalmente, no creo que lleguemos a interpretar nunca lo que sucede dentro de las redes neuronales por razones fundamentales, aunque podemos obtener algunas pistas interesantes. Mi esperanza reside más bien en conseguir que el proceso por el que la IA llega a sus respuestas pueda descomponerse en partes interpretables". Yoshua Bengio pronunció estas palabras durante una charla organizada por el Instituto para el Futuro de la Vida, en octubre de 2024. Geoffrey Hinton fue más breve en una entrevista con Wired de 2019: "No, realmente no sabemos cómo funcionan".
Ya han pasado varios años desde que estos dos científicos hicieron estas declaraciones, pero en fechas mucho más recientes Sam Altman, Dario Amodei y otras personas relevantes de la industria de la IA han confesado que existen limitaciones a la hora de comprender el funcionamiento interno de los grandes modelos de lenguaje. Nick Cammarata está decidido a resolver este gigantesco problema. Este investigador trabajó en OpenAI como parte del equipo de desarrollo de técnicas para explicar qué representan las neuronas de los modelos de lenguaje. Y también ha contribuido a este campo con trabajos pioneros de visualización de circuitos neuronales.
