“El riesgo es que la IA se convierta en un motor de alta velocidad para denegar atención médica.”
Esa es la única parte de toda esta historia que realmente importa. Mientras el gobierno intenta enmarcar el programa piloto como una forma de reducir la fricción administrativa, cualquiera que haya pasado cinco minutos lidiando con un ajustador de reclamaciones sabe que la “fricción” es a menudo lo único que evita que un paciente sea completamente ignorado por su proveedor. Reemplazar a un humano lento y malhumorado por un algoritmo rápido y educado no soluciona la estructura de incentivos subyacente; solo acelera la velocidad a la que te pueden decir que no.
El problema fundamental aquí es que las compañías de seguros no están en el negocio de brindar atención; están en el negocio de gestionar riesgos y minimizar pagos. En un sistema manual, un revisor humano podría leer realmente la nota de un médico y darse cuenta de que un procedimiento es necesario, incluso si no encaja perfectamente en una casilla de verificación. Una IA, sin embargo, solo es tan buena como los tokens para los que está optimizada. Si la función objetivo es “reducir el gasto manteniendo el cumplimiento legal mínimo,” el modelo encontrará cada posible vacía legal para justificar una denegación. ¿De verdad creemos que el objetivo aquí es el bienestar del paciente? (Probablemente no, a menos que la IA esté específicamente ajustada para el altruismo, lo cual no es una función estándar en el software corporativo).
Cuando un humano deniega una reclamación, generalmente hay un rastro de documentos: una línea específica de la póliza o una guía clínica citada. Cuando un LLM lo hace, entramos en la era de la denegación probabilística. Como se señala en el informe de Ars Technica, la falta de transparencia en estas decisiones es una bomba de relojería. Es esencialmente el desastre de Zillow iBuying una vez más: confiar en un modelo para valorar un activo complejo del mundo real —o en este caso, una vida humana— sin darse cuenta de que el modelo solo está alucinando un patrón basado en datos defectuosos. Es como reemplazar a un juez de juicio con una máquina tragamonedas que está cargada fuertemente a favor de la casa.
Luego está la fricción del mundo real del proceso de apelación. Lidiar con un humano es molesto, pero luchar contra un modelo que ha sido integrado en un flujo de trabajo corporativo es una pesadilla. La latencia no está en el cómputo; está en la burocracia. Si la IA deniega una reclamación en tres segundos, pero el proceso de apelación humana sigue tomando tres semanas, la “eficiencia” solo beneficia al pagador. Esto crea una guerra psicológica de desgaste. Para Q1 2027, veremos la primera demanda colectiva importante donde el equipo legal de un paciente argumente con éxito que una alucinación de un LLM —en lugar de una guía médica— fue el principal impulsor de una denegación de tratamiento que salva vidas.
La ironía es que es probable que veamos una carrera armamentista de “ingeniería de prompts” en el sector salud. Los médicos dejarán de escribir notas clínicas para otros médicos y comenzarán a escribirlas para la IA de seguros, utilizando palabras clave y estructuras específicas diseñadas para engañar al modelo y obtener una salida de “Sí”. Terminaremos con un sistema donde la calidad de tu atención médica depende de qué tan bien tu médico pueda optimizar su prosa para un bot corporativo. Esto convierte el acto de sanar en un juego de SEO, donde el objetivo es posicionarse lo suficientemente alto en la categoría de “aprobado” para obtener una tomografía. O quizás no: tal vez la IA se entrene con estas notas “optimizadas” y simplemente aprenda a ignorar las palabras clave.
Esto es simplemente una forma más rápida de decir que no.
