Imagina una banda de garaje en los años 70. No tienen una hoja de ruta; solo cambian pedales, reemplazan al baterista y suben el volumen hasta que algo suene como Led Zeppelin. No siguen un manual—están iterando en un espacio ruidoso hasta dar con una vibra. Así es exactamente como ha funcionado la investigación de modelos del mundo últimamente. Es una mezcla caótica de arquitecturas y objetivos de entrenamiento donde el enfoque “mejor” depende enteramente del entorno que estés intentando romper en ese momento.
El problema con los modelos del mundo es que son un desorden inestable. Cambias la representación de estado y, de repente, tu objetivo de entrenamiento es inútil. Ajustas la arquitectura y el modelo olvida cómo predecir el siguiente frame. Los autores del artículo de AutoWorldModel-Bench admiten esencialmente que no hay una receta dominante. En lugar de intentar proporcionar una única respuesta “correcta”, han construido un patio de juegos para que los agentes de IA encuentren la respuesta por sí mismos. Es un meta-benchmark. No pregunta “¿es bueno este modelo?” sino “¿puede un agente de IA encontrar un modelo que sea bueno?” Esta es una distinción crítica porque trata el proceso de investigación como el producto real, no los pesos resultantes.
¿Quién realmente quiere pasar seis meses afinando una representación de estado a mano? (Probablemente solo los estudiantes de doctorado que no tienen nada mejor que hacer). El avance hacia la investigación autónoma es una confesión de que el espacio de búsqueda para los modelos del mundo es demasiado vasto para la intuición humana. Hemos alcanzado el límite de “tengo la corazonada de que un espacio de estado basado en transformers funcionaría aquí”. Al convertir el proceso de investigación en un benchmark, estamos admitiendo que el agente es mejor en el trabajo pesado de búsqueda de arquitecturas que nosotros. O quizás no—tal vez el agente solo es mejor siendo terco y probando el mismo enfoque fallido diez mil veces sin aburrirse ni necesitar un descanso para el café.
Pero aquí está el truco: esto no es gratis. Dejar que un agente de codificación itere en modelos del mundo es una hoguera de cómputo. Hablamos de un ciclo donde un agente escribe código, entrena un modelo, lo evalúa y repite. Si estás ejecutando esto en un clúster local, olerás ozono para el mediodía. Los requisitos de VRAM por sí solos para este tipo de experimentos de modelado del mundo suelen hacer que una GPU de consumo parezca una calculadora. Es como intentar hornear un pastel donde tienes que reiniciar todo el horno desde frío cada vez que decides agregar una pizca de sal. Ya hemos visto esta película antes con la hype de AutoML hace unos años, pero aplicarlo al estado interno de un modelo del mundo es un esfuerzo mucho mayor porque el ciclo de retroalimentación es tan lento.
Si este marco gana tracción, la naturaleza de la investigación pivota desde diseñar arquitecturas hasta diseñar las funciones de recompensa para los agentes que hacen el diseño. Es una capa de abstracción que elimina al humano del ciclo. (Sospecho que veremos un efecto dominó aquí que cambiará cómo pensamos en la “intuición” en la IA). Para el Q4, probablemente veamos la primera arquitectura de modelo del mundo descubierta enteramente por un agente que supere a todas las líneas base diseñadas por humanos en su categoría. No será un momento de “¡eureka!”; será simplemente el resultado de un millón de iteraciones fallidas que un humano habría sido demasiado cansado o demasiado orgulloso de intentar.
La era de la arquitectura “intuitiva” ha muerto.
