Seguir una receta es una habilidad, pero no es cocinar. Un cocinero de línea puede ejecutar un Beef Wellington a la perfección cada vez, pero si la temperatura del horno fluctúa o la carne es de mala calidad, está atrapado. Un chef, sin embargo, entiende la química del calor y las proteínas. Puede pivotar porque comprende el “porqué” detrás del proceso. La mayor parte de lo que llamamos “IA para la ciencia” ahora mismo es solo un cocinero de línea muy rápido. Es un emparejamiento de patrones a gran escala, lo cual está bien para resumir artículos o predecir la estructura de una proteína basada en pliegues conocidos, pero es inútil para descubrir realmente algo que no esté ya escondido en el conjunto de entrenamiento.
La brecha entre la recuperación de datos y el razonamiento real es el verdadero muro. Como se señala en MIT Tech Review, el impulso ahora va hacia agentes que puedan razonar—es decir, que puedan formular hipótesis, probar y fallar. Pero aquí está el quid de la cuestión: el razonamiento requiere un nivel de autonomía que hace sudar a los equipos legales corporativos. No puedes tener un agente de “razonamiento” que esté simultáneamente restringido por mil capas de RLHF diseñadas para evitar que diga algo levemente ofensivo para un accionista. Si se enseña a un modelo a ser cauteloso ante todo, nunca sugerirá la hipótesis radical e intuitivamente contraria que realmente lleva a un descubrimiento.
Esto nos lleva al “complejo industrial de la censura”. Ya hemos visto esta película antes con los primeros días de los generadores de imágenes (¿recuerdan los filtros de “seguridad” que bloqueaban todo, incluida la palabra ‘pecho’ en un contexto médico?). Ahora estamos aplicando esa misma sanitización corporativa al descubrimiento científico. Cuando envuelves un modelo en tantas vallas de seguridad que ni siquiera puede discutir ciertos precursores químicos o vías biológicas por miedo a riesgos de “doble uso”, no estás haciendo el mundo más seguro. Solo estás haciendo la herramienta inútil para las personas que realmente saben cómo usarla. ¿Por qué fingimos que un modelo gestionado por un departamento de relaciones públicas es la herramienta adecuada para un laboratorio de alto riesgo? (Sospecho que la mayoría de estos comités de “seguridad” nunca han puesto un pie en un laboratorio experimental).
La obsesión actual con el “alineamiento” en modelos de ciencia es un error. El alineamiento es para chatbots que hablan con el público general, no para agentes que ejecutan simulaciones en ciencia de materiales o química cuántica. El objetivo de un agente científico debería ser la precisión y la capacidad bruta, no la cortesía. Si un modelo es demasiado “seguro” para sugerir una reacción volátil pero necesaria, no es una herramienta científica; es un juguete. Básicamente, estamos intentando construir un telescopio que se niega a mirar ciertas partes del cielo porque esas regiones podrían ser “controversiales.” Es un enfoque absurdo para el descubrimiento que prioriza la imagen corporativa sobre el progreso real.
Luego está la fricción del hardware. Ejecutar un agente de razonamiento verdadero—uno que itera, se autocorrige y ejecuta simulaciones internas—no es una llamada de API barata. Es un bucle iterativo que devora tokens como caramelos y requiere una sobrecarga masiva de VRAM para mantener el estado de un experimento complejo. La latencia por sí sola en estas cadenas complejas es suficiente para hacerte extrañar la era de los simples scripts de Python. Si el objetivo es ir más allá del consumo voraz de datos, tenemos que aceptar que estos modelos serán más lentos y significativamente más costosos de ejecutar que las interfaces de chat llamativas a las que estamos acostumbrados.
La mayoría de las iniciativas de “IA para la ciencia” son solo ejercicios de marketing para clústeres de computación.
La industria está en un punto de ruptura. La tensión entre la necesidad de un razonamiento crudo y sin censura y la necesidad corporativa de seguridad es insostenible. Para Q1 2027, veremos un modelo científico “jailbroken” o nativamente sin censura importante, lanzado por un colectivo de código abierto, que hará que las versiones corporativas “seguras” actuales queden obsoletas. Hasta entonces, seguiremos fingiendo que un modelo que se disculpa por su incapacidad para ayudar está realmente ayudando a la ciencia.
