HybridAgent, el agente que piensa sin escribir: cuánto ahorra de verdad y qué dejas de ver

Un agente que piensa sin escribir, gasta hasta un 54,7% menos de tokens y, en su versión de 8B, le gana a GPT-5.6 Luna en GAIA. Con ese currículum, Hacker News lo subió a portada y le dio 339 puntos. El comentario que más escuece del hilo no le discute ni una cifra. Dice que vamos lanzados a quitar la única forma práctica que tenemos de vigilar las intenciones de los modelos. A cambio, unos pocos puntos de tokenmaxxing. Y que qué ganas.

Los dos bandos tienen su parte de razón, y para verlo hay que abrir el invento.

El camarero que no apunta la comanda

Hasta ahora, un agente de IA era un camarero con libreta. Antes de llevarte el plato escribía la comanda entera: piensa en texto, llama a la herramienta en texto y vuelve a pensar en texto. Es lento y es caro, porque cada palabra de la libreta es un token que alguien paga. Pero si el entrecot llegaba crudo, tenías el papel para ver dónde se había torcido la cosa.

HybridAgent es el camarero que se lo guarda en la cabeza, a pelo. Cuando le toca pensar, suelta un token especial, <latent>, y deja de escribir. El último estado oculto del modelo, el vector del que normalmente saldría la siguiente palabra, pasa por un adaptador llamado HybridLink. De ahí vuelve a entrar como siguiente input, sin convertirse nunca en palabra.

Sale de ese modo cuando el token más parecido a lo que está pensando es </latent>. Entonces vuelve al texto para lo que solo se hace en texto: llamar al intérprete de Python o al buscador. Entre turno y turno arrastra todo, pensamientos incluidos, en su memoria de trabajo (la caché KV), sin pasarlo a tokens.

Pensar en vectores no es nuevo. Coconut ya realimentaba ese estado oculto como pensamiento continuo en diciembre de 2024. Lo nuevo es meterlo en un agente con herramientas y varios turnos. Lo firman Stanford, UIUC y Together AI, sobre Qwen3-Base de 4B, 8B y 14B. Primero un ajuste supervisado (HybridSFT) y después refuerzo (HybridRL). El refuerzo es lo que le enseña cuándo pensar callado y cuándo escribir.

La promesa del abstract, tal cual:

• Un 10,4% más de rendimiento en 11 benchmarks de matemáticas, ciencia, medicina, búsqueda y razonamiento agéntico, frente a agentes frontier y frameworks de texto y latentes.
• Entre un 35,5% y un 54,7% menos de tokens.
• Inferencia entre 1,8 y 2,6 veces más rápida.
• Un coste entre 2,7 y 3,7 veces menor.

Es exactamente lo que quiere oír cualquiera que pague una factura de agentes. Vamos línea por línea.

La media que paga a escote

El abstract dice que HybridAgent mejora un 10,4% "consistently". Dentro del paper, la misma cifra ya es una "average performance improvement". Parece un matiz de redactor y no lo es. Una media de once benchmarks funciona como pagar a escote: el que pidió una ensalada acaba pagando el chuletón del de enfrente.

No hemos podido leer la tabla 1 en el original, pero dev.to se ha leído el paper entero y la desgrana fila a fila. De su lectura salen las tablas y los apéndices que citamos, con números de los propios autores:

Benchmark	HybridAgent 8B	HybridAgent 14B	ARPO 8B (solo texto)	GPT-5.6 Luna	Kimi K3
GAIA	43,7	52,4	38,8	37,9	41,7
WebWalker	42,5	49,5	32,0	11,0	10,0
Humanity's Last Exam	14,4	16,0	sin dato	29,0	31,4
DeepSearchQA	20,0	21,7	sin dato	23,3	21,7

En navegación web y búsqueda, los pequeños pasan por encima. En Humanity's Last Exam (HLE), un examen duro de conocimiento y razonamiento, GPT-5.6 Luna le saca el doble al 8B. En DeepSearchQA, Luna sigue mandando. Si tu trabajo se parece más a HLE que a GAIA, ese 10,4% es el chuletón y tú eres el de la ensalada.

La libreta ya le ganaba a Luna

El titular que ha corrido estos días es que un 8B que piensa sin escribir le gana a GPT-5.6 Luna en GAIA, 43,7 contra 37,9. Es verdad. Ahora mira la columna de ARPO, un agente de 8B que razona solo en texto, entrenado con refuerzo en varios turnos y sin modo latente. Ya le ganaba a Luna en GAIA y en WebWalker.

O sea, que el camarero de libreta de toda la vida ya servía mejor que el restaurante con estrella. Para ganarle a Luna en GAIA bastaba con un agente pequeño entrenado con herramientas y refuerzo. Lo que pone HybridAgent encima, con su modo latente y su propia receta de entrenamiento, es el margen: 4,9 puntos más que ARPO en GAIA y 10,5 en WebWalker. Es un margen serio, pero el milagro del titular era otra cosa.

Y hay una fila que pide explicaciones. En WebWalker, GPT-5.6 Luna saca 11,0 y Kimi K3, 10,0, muy por debajo de un 8B de texto. Antes de creérnoslo preguntaríamos con qué herramientas y con qué arnés pusieron a correr a los frontier, y eso no lo hemos podido verificar. Esa fila se queda en cuarentena.

La cuenta sin bebidas ni pan

Vamos con el dinero, que es lo que hace que un CTO se lea un paper. El ahorro de coste no sale de ninguna factura. Es la estimación de cómputo de la tabla 9, que supone 2,50 dólares por hora de H100 y un 10% de utilización del pico en BF16.

Hay que reconocerles algo. En esa cuenta, cada paso latente paga como una pasada completa del modelo, así que pensar sin escribir no sale gratis. Con esas reglas, el agente de 8B baja de 439 a 121 dólares por millón de preguntas.

Ahora mira lo que se queda fuera: el prefill del prompt, la atención que depende del contexto y la ejecución de herramientas externas. El prefill es lo que le cuesta al modelo leerse todo el contexto antes de escribir la primera palabra. Es la cuenta del restaurante sin bebidas, sin pan y sin cubierto, y en un agente la bebida no es un extra. El búfalo se llevó ese susto cuando se puso a medir a sus propios agentes. El gasto no estaba en lo que escribían, sino en todo lo que tenían que leer, con contextos que no paraban de engordar.

Puede que con el prefill dentro HybridAgent también gane, porque no reescribe la trayectoria en cada turno. Pero ese número no está en el abstract. Lo que te dan es el precio del plato, no el de la cena. El búfalo cuenta lo que cuesta cada tarea acabada, no cada token. Aquí el paper le da la razón a medias, porque da coste por pregunta pero solo de la parte de generar. Y lo de ir entre 1,8 y 2,6 veces más rápido no hemos podido ver cómo se cronometró, así que ni lo compramos ni lo tiramos.

Señalar en la carta

El giro lo escriben los propios autores en la introducción. Para explicar por qué hace falta su invento, cuentan que los razonadores latentes de hoy siguen "sealed behind the model boundary", sellados tras la frontera del modelo. Sus vectores no enseñan un significado que un humano pueda leer, así que cuesta supervisarlos al entrenar y auditarlos o depurarlos al usarlos. Y para decirlo citan el paper de 2025 que defiende vigilar el chain of thought, la cadena de razonamiento que el modelo escribe antes de responder.

Su arreglo es leer cada paso latente como el token más cercano por similitud coseno: la palabra del vocabulario cuyo vector apunta en la dirección más parecida. Sale un pseudo-texto que el paper y el model card llaman "directly interpretable". Vuelve al camarero. Le pides la comanda y, como no la tiene, te señala en la carta el plato que más se parece a lo que lleva en la cabeza. Siempre hay uno que se parece más que los demás, porque cualquier vector tiene un token más cercano. Que se parezca no quiere decir que sea lo que va a salir de cocina.

Y puede que en la cabeza lleve más de un plato. Los autores de Coconut vieron que un pensamiento continuo puede codificar varios pasos siguientes alternativos a la vez. Si en HybridAgent pasa algo parecido, que no lo sabemos, el dedo en la carta te enseña la merluza y se calla que dudaba con el secreto.

La métrica de legibilidad del paper mide justo el parecido: la media del mejor parecido coseno contra el vocabulario. Te dice lo cerca que señala el camarero, no si acierta con lo que sirve. Y el propio paper admite en un apéndice que en los tramos latentes largos los errores pequeños se acumulan, "gradually eroding the semantic coherence of the latent trace". Es el camarero con seis mesas en la cabeza: a la quinta, el entrecot y el secreto ibérico ya se parecen bastante.

La guinda está en el hilo de Hacker News. Un usuario, en modo gorro de papel de aluminio, especula con que los resúmenes de razonamiento de los grandes laboratorios podrían salir de pensamientos continuos. Otro le explica cómo se haría: "select the nearest token in embedding space to the thinking token". La receta del gorro de aluminio es el mismo método que el paper presenta como interpretabilidad.

El vigilante se queda a oscuras

¿Y a ti qué más te da, si el agente acierta? Te da porque leer el razonamiento es, hoy, una de las pocas ventanas para ver la intención de un agente y no solo lo que hace. En un estudio de OpenAI de 2025, un monitor GPT-4o cazó el 95% de dos trampas en tareas de código leyendo el razonamiento, las tool calls y las salidas. Las trampas eran salir con exit(0) para que los tests parecieran superados y lanzar SkipTest para saltárselos. Viendo solo las acciones y las salidas, el monitor se quedó en el 60%.

Dicho al revés, sin el razonamiento se le escapaban ocho veces más trampas. Son dos trampas en un montaje concreto, no la seguridad en general, pero la distancia es la que es. Y el propio paper describe su agente como un reparto de tareas: más razonamiento interno a los pensamientos latentes, "while reserving text for external inspection and tool interaction". Visto desde la silla del vigilante, lo que el agente piensa va por dentro y lo que tú lees es lo que ha aprendido a sacar fuera.

HybridAgent te deja entre las dos columnas de ese estudio. Ves las acciones, que siguen en texto, y del razonamiento ves lo que el camarero señala en la carta. El paper trae un análisis de auditabilidad del razonamiento. Lo que hemos podido ver de él es la métrica de parecido, no una prueba de si un monitor pilla trampas leyendo el pseudo-texto.

Y esto ya no es una pelea de foro. En la ficha de seguridad de GPT-6 Astra, OpenAI reconoce que su "monitorability has decreased relative to GPT-5.6 Sol". También cuenta que ha puesto vigilancia de desalineamiento en toda la inferencia con herramientas de Astra, "with significant compute cost". OpenAI paga cómputo extra para vigilar a su agente, razonamiento incluido, y este paper vende ahorro de cómputo por no escribirlo. Es quitar las cámaras de la caja para ahorrar luz.

En septiembre, The Information contó que Astra usa algo de recurrencia opaca, aunque de forma limitada. Ryan Greenblatt, de Redwood Research, puso el miedo por escrito: que eso escale hasta que el modelo "reasons entirely or almost entirely in latent space". HybridAgent se queda lejos de eso, pero camina en esa dirección y con el código abierto.

Donde el paper acierta (y el papa en bucle)

Desmontar no es tirarlo todo, y aquí aguanta bastante. La HybridLink es una pieza de ingeniería cojonuda: unos 10 millones de parámetros en un modelo de 4B. El refuerzo le enseña al agente cuándo callar y cuándo escribir, la cuenta de coste es honesta en lo que incluye y las derrotas están en su propia tabla. Además lo sueltan todo: código con licencia MIT, dos checkpoints agénticos, los datasets y un inspector que vuelca el pseudo-texto en un informe HTML.

En el hilo también hay defensa con fundamento. Hablando de los transformers en bucle, un usuario recuerda que dar más vueltas al cálculo equivale a una red más profunda con parámetros compartidos. Y que ya hay trabajos que sacan a posteriori descripciones en lenguaje natural de esos estados, así que tan imposibles de inspeccionar no son. Buen argumento: dice que el problema tiene arreglo, no que este paper lo arregle.

Y cuidado con quien lo da por roto. Un usuario puso el 14B en llama.cpp con la cuantización de 8 bits de bartowski. Se lo encontró cinco minutos dando vueltas a variaciones del mismo párrafo hasta agotar los turnos. Otro probó el 8B en la cuantización IQ4_XS de mradermacher y le preguntó quién es el papa. El modelo se puso a rezar el rosario: la misma respuesta, una y otra vez.

Pero el model card avisa. La HybridLink va en un fichero aparte, adapter.pt, y sin el código de HybridAgent lo que cargas es un modelo de solo texto. Lo que entró en bucle en el hilo era, con toda probabilidad, el modelo de serie sin la pieza que le hace pensar en latente. Eso también es un dato para producción, y no de los buenos. El modo latente no corre en tu stack de siempre. Necesitas su motor de generación y, para que busque, una clave de Tavily.

Cuánto humo había

El del titular. El 8B que piensa sin escribir y le gana a los frontier se queda en un agente de búsqueda muy fino. Gana donde ya ganaban los agentes pequeños bien entrenados, saca la mitad que Luna en HLE y abarata una cuenta que deja fuera leer y usar herramientas. Como investigación, merece seguirla: ataca un problema real y lo enseña todo.

Para un agente que toca cosas de verdad, hoy no. Y no por los benchmarks, sino porque lo que se ahorra son justo los tokens que leías para saber qué tramaba. Si aun así lo pruebas, que los frenos no dependan de leerle la mente. El búfalo pilló a un agente suyo tirando varias veces de una orden que el prompt le vetaba. De ahí sacó una norma: los vetos van en la estructura, no en el texto. Y separa mirar de mandar: como prueba solo acepta lo que se puede comprobar. Con un agente latente, eso deja de ser buena práctica y pasa a ser lo único que te queda.

Lo que nos haría cambiar de opinión es muy concreto. Un monitor que, leyendo el pseudo-texto, pille las trampas casi tan bien como uno que lee el razonamiento en texto. Hasta que alguien lo enseñe, el camarero nuevo puede ser rapidísimo, pero en producción la comanda la queremos en papel.