La detección de IA es una misión perdida.

Las matemáticas básicas de la IA generativa simplemente no favorecen al detective. Por cada actualización de un clasificador, hay un aumento mil veces mayor en las formas de eludirlo. Puedes pedirle a un modelo que “escriba como un periodista cansado de los 90” o pasar la salida por un paráfrasis simple, y de repente los marcadores estadísticos en los que se basan los detectores desaparecen. Sin embargo, el capital de riesgo sigue fluyendo hacia este vacío.

El último ejemplo es Pangram, que recientemente recaudó 9 millones de dólares (una cantidad descomunal de capital para una herramienta que es esencialmente un motor de adivinanzas estadísticas) para escalar su software de detección. Junto con la financiación, han lanzado Pangram 4 y una versión de investigación previa para la detección de imágenes. Según TechCrunch, el objetivo es ayudar a los editores y educadores a mantener a raya la “inundación de IA”.

El problema es que estamos tratando un cambio lingüístico como una violación de seguridad. Estamos intentando identificar la “condición de bot” buscando patrones—perplejidad y estallidos—que ya se están suavizando gracias a mejores métodos de muestreo y RLHF. Es como intentar atrapar un fantasma con una red de mariposas. Quizás atrapes algo de vez en cuando, pero no estás controlando realmente el entorno.

Es un juego perdido.

El verdadero peligro aquí no es que los detectores fallen al capturar la IA; es que marcan con confianza a los humanos. Ya hemos visto la carnicería en la academia, donde estudiantes han sido acusados de hacer trampa porque escriben con un nivel de claridad y estructura que resulta imitar a un LLM bien ajustado. Cuando una herramienta como Pangram 4 se comercializa a instituciones, la “detección” se convierte en un sustituto de la verdad.

La fricción es palpable. Imagina el costo de un falso positivo en un entorno profesional: un periodista que pierde su trabajo o un desarrollador que es despedido porque una herramienta decidió que sus mensajes de commit eran “demasiado sintéticos”. Estas herramientas no proporcionan una prueba; proporcionan una probabilidad. Pero en manos de un gerente medio o un decano, una probabilidad del 70 % a menudo se trata como una condena.

Estamos construyendo esencialmente una infraestructura masiva y costosa para vigilar la forma en que la gente escribe. Pero cuanto más usamos estas herramientas, más obligamos a los humanos a escribir “de forma extraña” solo para evitar ser marcados. Estamos incentivando una regresión en la prosa para satisfacer a un clasificador.

La ironía es que la única forma de “detectar” realmente la IA es tener una marca de agua criptográfica incrustada en el punto de generación. Pero eso requiere que los laboratorios—los que están ganando el dinero—cooperen. ¿Por qué lo harían? Hay mucho más valor en una integración perfecta e invisible en el flujo de trabajo humano que en una etiqueta de “Hecho por IA” en cada párrafo.

El mercado está actualmente obsesionado con el lado del “detector” de la ecuación porque parece una solución. Parece que podemos volver a un mundo donde sabemos quién escribió qué. Pero ese mundo se fue. Nos estamos moviendo hacia una realidad donde el contenido en sí es irrelevante, y solo importa la identidad del remitente.

Para el primer trimestre de 2027, el mercado de detectores independientes colapsará en favor de la procedencia criptográfica y los flujos de contenido autenticados. Dejaremos de preguntar “¿fue esto escrito por un bot?” y comenzaremos a preguntar “¿está firmado por un humano verificado?”

Hasta entonces, seguiremos viendo estas rondas de financiación y estas nuevas versiones de modelos. Veremos un ciclo de “Pangram 5” y “Pangram 6,” cada uno afirmando ser más preciso, mientras que los LLM que persiguen simplemente mueven los postes de gol más lejos en el campo. Es una cinta de correr costosa, y todos solo miramos cómo suben los números sin avanzar realmente.