“Anthropic encontró un espacio oculto donde Claude se pregunta por conceptos.” Suena como una línea de una novela de ciencia ficción de bajo presupuesto, pero en realidad es una forma muy costosa de decir que por fin están avanzando en la interpretabilidad mecánica. Para quienes como nosotros hemos pasado los últimos dos años mirando fijamente las salidas de caja negra y adivinando por qué el modelo decidió de repente alucinar un precedente legal falso, esto es una pequeña victoria. Pero que quede claro: ver que ocurre el “proceso de desconcierto” no es lo mismo que resolver el rompecabezas.
Este “espacio oculto” es esencialmente un mapa de los estados internos del modelo. El objetivo es dejar de tratar a los LLM como oráculos mágicos y empezar a tratarlos como circuitos que pueden ser auditados. (Probablemente una forma elegante de decir que encontraron un grupo específico de neuronas que se activa cuando el modelo está confundido). Mientras la comunidad académica celebra, la utilidad práctica para el desarrollador promedio es actualmente cero. Ver a un modelo “desconcertarse” con un concepto es como mirar una resonancia magnética de un cerebro mientras resuelve un problema de matemáticas; puedes ver la actividad, pero aún no puedes decirle al cerebro que deje de cometer errores aritméticos. Es una herramienta de diagnóstico, no un volante. Todavía estamos lejos de poder meter la mano en ese espacio oculto y activar manualmente un interruptor para detener una alucinación en tiempo real.
Mientras tanto, OpenAI está jugando un juego completamente diferente. Como detalla MIT Tech Review, el movimiento hacia una “superapp” es un intento transparente de capturar la capa de sistema operativo de nuestras vidas digitales. No quieren ser una función en un navegador; quieren ser el navegador, el asistente y la capa de aplicación todo a la vez. Es la jugada de plataforma clásica, similar a cómo Apple convirtió el iPhone de un teléfono en un ecosistema de App Store. OpenAI se da cuenta de que el modelo en sí se está convirtiendo en una commodity: la parte “inteligente” de la IA se está volviendo un estándar, así que están construyendo un foso defensivo a partir de los hábitos de los usuarios y flujos de trabajo integrados. Si pueden poseer la interfaz donde programas tus reuniones, escribes tus correos y gestionas tus archivos, no importa si otro laboratorio lanza un modelo que es un 5% más coherente.
Esto crea una extraña tensión estratégica en el campo. Anthropic se está posicionando como el “adulto en la habitación,” centrándose en la seguridad y la ciencia real de cómo funcionan estas cosas. OpenAI está actuando como una blitzscaler respaldada por capital de riesgo, intentando atrapar el mercado antes de que la parte de la “ciencia” siquiera se ponga al día. ¿Por qué seguimos fingiendo que “entender” un modelo es lo mismo que controlarlo? Un laboratorio intenta leer el mapa mientras el otro solo intenta poseer la ciudad. Es un desacuerdo fundamental sobre lo que el “producto” realmente es: ¿es el producto la inteligencia, o es el producto el acceso a esa inteligencia?
Por supuesto, esto no es una pelea justa. La sobrecarga de cómputo necesaria para ejecutar estas pruebas de interpretabilidad es astronómica; no puedes hacer esto exactamente en un clúster local o con un par de H100 en un sótano. Es un juego de laboratorios ricos. Debido a esta brecha de recursos, el enfoque de “superapp” es el único que escala comercialmente a corto plazo. Sospecho que OpenAI se apoyará agresivamente en esta dominancia para sofocar a la competencia. Para el Q4, OpenAI lanzará un SDK de desarrollador dedicado para su ecosistema de superapp para asegurar que los desarrolladores de terceros queden atrapados en su implementación específica de “agentes” y ganchos de API.
Anthropic está ganando la guerra intelectual, pero OpenAI está ganando la guerra de desgaste.
Anthropic está construyendo un microscopio mientras OpenAI está construyendo un centro comercial.
