«El Vaticano no solo se preocupa por las implicaciones teológicas de la IA, sino también por quién ostenta el poder de definir el marco moral de estos sistemas.»

Esa es una forma muy educada de decir que el Papa tiene pánico a quedar al margen en el mayor cambio en la agencia humana desde la invención de la imprenta. La Iglesia ha pasado siglos como árbitra suprema de la moralidad, pero ese monopolio está amenazado por un par de miles de H100 y un puñado de ingenieros en San Francisco.

La jugada aquí es sutil. Según Wired, el Vaticano no se limita a enviar cartas de tono firme o a organizar simposios; está intentando colocar «representantes dentro» de los laboratorios. Concretamente, quieren un asiento en la mesa de Anthropic. El objetivo es garantizar que la «dignidad humana» y la doctrina social católica estén integradas en el proceso de alineación. Es una maniobra de poder blando diseñada para influir en la «IA Constitucional» que utiliza Anthropic para evitar que sus modelos se salgan de control.

Es una imagen curiosa: la burocracia más antigua del mundo intentando influir en la más nueva y veloz. El Vaticano actúa efectivamente como un lobby corporativo (aunque con mejores túnicas) intentando convencer a una firma de trading de alta frecuencia de que opere «éticamente».

¿De verdad creemos que unas cuantas reuniones con sacerdotes van a detener una carrera hacia la AGI?

La fricción aquí no es solo religiosa; se trata de la diferencia fundamental entre dogma y pesos. El Vaticano maneja verdades eternas y leyes inmutables. Los laboratorios de IA manejan tokens probabilísticos y RLHF (Reinforcement Learning from Human Feedback). Uno se mueve en siglos; el otro, en épocas.

La «Constitución» de Anthropic ya es un conjunto de normas: una lista de reglas que le dice al modelo cómo comportarse. Desde la perspectiva del Vaticano, este es el punto de entrada perfecto. Si logras colar unos cuantos párrafos de doctrina social católica en la constitución, has esencialmente codificado a fuego una marca específica de moralidad en el espacio latente del modelo. (Lo cual es mucha burocracia para algo que se puede eludir con un system prompt ingenioso).

Pero esto asume que a los laboratorios realmente les importa el «marco moral» de sus sistemas más allá de evitar demandas y mala prensa. En la realidad, la alineación suele ser un juego de minimizar la toxicidad y maximizar la utilidad. Añadir una capa de teología a eso no cambia las matemáticas subyacentes; solo añade un conjunto más de restricciones que el modelo debe navegar. Es como intentar enseñarle a un niño pequeño los entresijos de la Carta Magna mientras está en medio de un berrinche.

El verdadero conflicto surgirá cuando la definición de «dignidad humana» del Vaticano choque con los objetivos utilitaristas de los laboratorios o con la naturaleza permisiva de los datos de la web abierta con los que se entrenan los modelos. No puedes «alinear» un modelo a una fe específica cuando su función principal es ser una herramienta de propósito general para una audiencia global y secular.

Es una jugada de prestigio.

El desenlace más probable es una relación simbiótica basada en la vanidad mutua. El Vaticano puede sentir que está moldeando el futuro de la inteligencia, y los laboratorios obtienen el prestigio de decir que han «consultado con la Santa Sede» para hacer su IA más «ética». Es una victoria de relaciones públicas para ambos bandos que no cambia absolutamente nada en el entrenamiento real.

Para el Q4, veremos al Vaticano publicar una directiva formal de «Ética de la IA» que los principales laboratorios tratarán como una casilla de verificación de relaciones públicas en lugar de una restricción técnica. Los ingenieros asentirán, sonreirán y volverán a ajustar la temperatura y los parámetros top-p. El Papa puede tener la atención de la industria, pero atención no es lo mismo que control. En el mundo de los LLM, el único con poder real es quien tiene las llaves del compute.