Apunta a un desperdicio de recursos, pero de fondo está el meme de "que me quedo sin comer".
En corto. En el podcast hablaron de varios temas, pero lo que no ha pasado desapercibido en las redes es el comentario del mandamás de OpenAI sobre la actualidad tecnológica en la que hay usuarios tomando modelos abiertos y ejecutándolos en su propio hardware sin depender de la nube de nadie más. Para Altman, la inferencia local es un terrible desperdicio de un recurso tan escaso como la memoria DRAM:
"La inferencia local es una terrible asignación de recursos escasos. Mucha gente quiere inferencia local y, de algún modo, asume que el problema está resuelto porque tenemos modelos de código abierto que podemos ejecutar en nuestros ordenadores y, así, no necesitar todas esas cosas que permiten los centros de datos.
Pero, desde una perspectiva de asignación global, en realidad es bastante terrible que todo el mundo tenga su propio ordenador con una DRAM que se utiliza apenas el 5% del tiempo cuando estamos en un momento en el que éste es un recurso tan limitado.
