¿Recuerdan cuando Sam Altman hizo su “gira de disculpas” después del golpe en la junta directiva de OpenAI? Fue una clase magistral de pivote corporativo, transformando una lucha de poder interna caótica en una narrativa sobre el camino “responsable” hacia adelante para la AGI. Ahora tenemos a Dario Amodei haciendo una variación del mismo baile, aunque su versión se trata menos de escaños en la junta y más del pavor existencial del público.

El encuadre aquí es ingenioso. Al llamar al rechazo una “crisis de confianza,” Amodei desvía la conversación de la imprevisibilidad real y medible de los LLMs hacia la percepción de esa imprevisibilidad. Es una redirección clásica. Si el problema es la “confianza,” la solución es la “mejor comunicación” y la “transparencia”—cosas que un CEO puede controlar con unas pocas entrevistas bien cronometradas y una estrategia de relaciones públicas pulida. Es como un chef que te dice que la cocina está un poco desordenada pero que la comida es perfectamente segura; no soluciona realmente el problema de higiene, solo te pide que ignores el olor mientras comes. Quiere que creamos que la brecha entre la promesa de la IA y la realidad de su despliegue es un error de comunicación, no un defecto fundamental en la arquitectura.

¿Está realmente preocupado por los riesgos, o esto es solo un foso? (o quizás solo está cansado de los hilos de Twitter). Hay un argumento sólido que sostener: la narrativa de la “seguridad” es la forma definitiva de captura regulatoria. Si gritas “peligro” lo suficientemente fuerte, convences al gobierno de construir una valla alrededor de la industria. Una vez que esa valla está en su lugar, solo los laboratorios con más capital y los protocolos de “seguridad” más “certificados”—los que ya están en la sala—pueden pasar por la puerta. No es muy diferente a cómo se usaron las primeras calificaciones de seguridad automotriz; no solo hicieron los coches más seguros, crearon una categoría premium de vehículos “seguros” que justificaba un precio más alto y expulsaba a los fabricantes más pequeños del mercado. Al poseer la definición de “seguro,” efectivamente posees la licencia para operar.

Pero para nosotros, los que realmente escribimos código contra estas APIs, la conversación sobre la “confianza” se siente desconectada de la fricción diaria. No estamos preocupados por una AGI descontrolada que tome el control de la red eléctrica; estamos preocupados porque el modelo se niegue de repente a resumir un documento legal porque activó alguna barrera de seguridad opaca. El informe de TechCrunch hace que Amodei suene como un filósofo-rey, pero la crisis real es la inconsistencia del control. Cuando un modelo pasa la mitad de sus tokens disculpándose por su propia existencia, eso no es una crisis de confianza: es un fallo del producto. Enfrentamos la latencia de estas capas “seguras” y la frustración de las defensas contra inyección de prompts que rompen casos de uso legítimos. No necesitamos un manifiesto sobre la confianza; necesitamos una API predecible que no alucine con sus propias restricciones.

La ironía es que cuanto más hablan estos CEOs de la “confianza” como un concepto abstracto, menos confiamos en la salida real. La industria está chocando contra un muro donde escalar datos por sí solo no está resolviendo el problema de fiabilidad. Debido a esto, veremos un giro para el Q4 donde la “confianza” se convierte en una función con precio—una capa de modelos “verificados” o “certificados” que cuesta el doble porque supuestamente han sido “blindados” para la seguridad empresarial. Será la misma “confianza” de la que habla Amodei, solo que con una cuota de suscripción adjunta. Esto no se trata de ética o de la supervivencia de la especie; se trata de convertir la incertidumbre de la tecnología en un flujo de ingresos recurrentes.

La narrativa de la “seguridad” es solo un envoltorio de gama alta para la gestión de responsabilidad corporativa.