¿Recuerdan cuando el gobierno de EE. UU. intentó tratar el cifrado PGP como una munición?

El gobierno está jugando de nuevo la carta de “demasiado peligroso”. Es un movimiento predecible cuando los reguladores se dan cuenta de que no tienen ningún mecanismo real para controlar los pesos una vez que están en la naturaleza. Ven un modelo que podría automatizar ciberataques complejos y deciden que la única solución es eliminar el botón de “publicar”. Pero como TechCrunch AI informa, los números de rendimiento ya están filtrándose y son impresionantes, incluso mientras el gobierno de EE. UU. forzaba la retirada basándose en que investigadores de Amazon supuestamente encontraron una forma de eludir las barreras de Fable 5. La ironía es que la prohibición no elimina realmente la capacidad del mundo; solo la mueve de una API controlada a un círculo clandestino de socios “de confianza”. Es un caso clásico de teatro de seguridad donde el objetivo es la apariencia de control en lugar de la seguridad real.

La justificación de “seguridad” es fundamentalmente defectuosa. Es esencialmente como prohibir un deportivo de alto rendimiento porque unos pocos mecánicos encontraron una forma de quitar el limitador de velocidad. ¿Desde cuándo un ataque de inyección de prompt —esencialmente un truco lingüístico— se convirtió en una amenaza para la república? La realidad es que las barreras de seguridad son una fina capa de RLHF, no una pared sólida. Si un modelo es capaz de hacer algo “peligroso,” lo es independientemente de si unas pocas instrucciones de “no hagas eso” están integradas en el prompt del sistema. Sugerir que una prohibición a la publicación pública corrige el riesgo subyacente es una fantasía. Si los pesos existen en un servidor, el riesgo existe. Estamos fingiendo que un filtro es lo mismo que una falta de capacidad, lo cual es un error que cualquier desarrollador que haya pasado diez minutos con un prompt de jailbreak sabe que es tontería.

Luego está el ángulo de Amazon. Amazon proporciona la capacidad de cómputo y el capital, y luego sus propios investigadores son los que rompen el juguete. (Es un poco como pagar por una bóveda y luego darse cuenta de que tu empleado tiene una llave maestra). Esto crea una fricción extraña donde el inversor es tanto el validador como el denunciante. Tenemos que considerar la pura realidad física de estos modelos; ejecutar Fable 5 probablemente requiere un clúster de H100s que dejaría en bancarrota a una startup de tamaño medio en un fin de semana. El gobierno no está realmente protegiendo al público de una herramienta que la mayoría de la gente no puede permitirse alojar localmente; está reaccionando al hecho de que la brecha entre “seguro” y “capaz” se ha ampliado hasta convertirse en un cañón que ninguna cantidad de filtrado puede salvar. O tal vez el gobierno simplemente está aterrorizado de que la “capacidad” no esté solo en el código, sino en las manos de cualquiera con una clave de API corporativa.

Estamos entrando en un período de teatro regulatorio. La prohibición es una señal para los votantes y políticos de que “se está haciendo algo,” pero ignora la física del campo. Los pesos se filtran. La gente encuentra espejos. La idea de que un mandato gubernamental pueda congelar una capacidad específica en el vacío es risible. Para el Q4, veremos una versión “en la sombra” de las capacidades de Fable 5 apareciendo en clústeres privados o a través de proxies de terceros, convirtiendo la prohibición oficial en una nota al pie en una historia de censura fallida. Los números no le importan la prohibición porque la utilidad del modelo supera el miedo del regulador. Cuando el delta de rendimiento es tan alto, el incentivo para filtrar el modelo se convierte en una fuerza irresistible.

El gobierno está combatiendo un incendio forestal con una botella de spray.