Correr agentes de IA en local ya no es una utopía: los nuevos Mac con M5 y Qwen3.8-27B cambian la ecuación

Durante años, correr un modelo decente en local para programación real, agentes y tool calling significaba una de dos: aceptar modelos pequeños que se quedaban cortos, o gastar lo que cuesta un servidor de GPUs. No había punto medio. Con los nuevos chips M5 de Apple y Qwen3.8-27B, ese punto medio existe por primera vez. Ya no necesitas un cluster para tener algo de calidad en casa.

Apple acaba de anunciar los nuevos Mac Studio con M5 Max y M5 Ultra, junto al Mac mini con M6 y M5 Pro. Las reservas están abiertas y las entregas arrancan el 22 de septiembre de 2026. Apple hace hincapié en la ejecución de modelos de IA locales como caso de uso central, y esta vez no es marketing vacío: los números lo sostienen. Por 4.129 € configuras un Mac Studio M5 Max con 64 GB de memoria unificada y 614 GB/s de ancho de banda, y corres Qwen3.8-27B (un denso de 27.000 millones de parámetros, licencia Apache 2.0, pensado para código, razonamiento y agentes, con soporte nativo de herramientas y 262K tokens de contexto).

La pregunta interesante ya no es si el modelo arranca. Ni siquiera si cabe. Es si puedes utilizarlo 8-10 horas al día como herramienta de desarrollo real, con más de un agente y refactors grandes. Y la respuesta es sí, siempre que elijas bien tres cosas: el ancho de banda, la cuantización y el runtime.

La configuración

Hay dos máquinas candidatas. Ambas llegan a 64 GB, y ahí termina el parecido:

Máquina	CPU/GPU	Ancho de banda	64 GB · 512 GB
Mac mini M5 Pro	18/20	307 GB/s	~3.339 €
Mac Studio M5 Max	18/40	614 GB/s	4.129 €

Los 790 € de diferencia compran exactamente el doble de ancho de banda y el doble de núcleos de GPU. Para un LLM eso se traduce, casi literalmente, en el doble de tokens por segundo en generación y un prefill bastante más rápido. En euros por GB/s el Max sale a 6,72 frente a 10,88 del mini: 1,62 veces más eficiente. Lo mismo por núcleo de GPU (103 € frente a 167 €).

Opciones del configurador del Mac Studio (tienda de Apple España, agosto 2026):

Opción	Diferencia
GPU de 32 núcleos (en vez de 40)	-330 €
48 GB (en vez de 64)	-440 €
128 GB	+1.760 €
1 TB	+330 €
2 TB	+880 €
4 TB	+1.980 €

La configuración que recomiendo: Mac Studio M5 Max · 18 CPU / 40 GPU · 64 GB · 512 GB, 4.129 €. Entrega estimada: 22-25 de septiembre. La ficha del aparato está en Appleesfera; los números de este artículo salen del briefing y del configurador de agosto.

¿Mac mini o Mac Studio? Depende de tu día

La memoria es la misma. Lo que cambia es el tiempo que pasas esperando.

Mac mini M5 Pro (3.339 €) es la compra racional si tu jornada es un agente principal, otro esperando a tests, contextos de 16-32K y refactors ocasionales. Funciona, y la memoria sobra.

Mac Studio M5 Max (4.129 €) es el sweet spot si orquestas dos o más agentes que generan a la vez; si haces refactorizaciones grandes, que implican contextos largos y reprocesar (prefill) decenas de miles de tokens varias veces por hora; o si trabajas 8-10 horas al día con el modelo, donde la latencia acumulada se convierte en horas por semana.

Un agente generando a la vez por cada ~300 GB/s de ancho de banda. Uno en el mini, dos en el Max.

El modelo: Qwen3.8-27B

Datos confirmados en la ficha del modelo:

• Denso de 27B (27,78B contando el encoder de visión). No es un MoE: todos los parámetros trabajan en cada token.
• 64 capas con atención híbrida: 48 de atención lineal (Gated DeltaNet) y 16 de atención completa, en proporción 3:1.
• Contexto nativo de 262.144 tokens, extensible a ~1M con YaRN.
• Multimodal nativo: texto, imágenes y vídeo como entrada. Puedes pasarle una captura de un componente roto.
• Cabeza MTP (multi-token prediction) incluida en los pesos: permite decodificación especulativa sin modelo auxiliar.
• Razonamiento activado por defecto, con niveles de esfuerzo configurables.
• Pesos en BF16: ~55,6 GB. Licencia Apache 2.0.

Dos consecuencias prácticas de la arquitectura híbrida. La KV cache es barata: sólo las 16 capas de atención completa la mantienen. Unos 64 KB por token, aproximadamente una cuarta parte de lo que costaría en un denso convencional de 64 capas. Y el modelo piensa por defecto y consume tokens: frente a Qwen3.6-27B gana capacidad a costa de velocidad y eficiencia de tokens. En un agente con 40 llamadas a herramientas, cada bloque de razonamiento se paga.

Si quieres el criterio general de qué modelo te cabe según tu RAM y tu GPU, ese cálculo no caduca. Aquí el caso concreto es este 27B en esta máquina.

Cuantización: Q4 no es gratis

Es habitual leer que Q4 no pierde calidad respecto a Q8. En perplexidad la diferencia es de un 1-3 % y en chat no se nota. En código y agentes sí: más errores de formato en llamadas a herramientas (JSON mal cerrado, argumentos inventados), que rompen el bucle del agente; más degradación en contextos largos, que es exactamente donde vive un refactor grande; cadenas de razonamiento algo peores en tareas de varios pasos; y alta variabilidad entre cuantizadores. Un Q4 "dinámico" con capas sensibles en más bits es notablemente mejor que un Q4 uniforme.

Cuantización	Pesos aprox.	Calidad	Uso recomendado
Q4 (MLX 4-bit / Q4_K_M)	16-19 GB	Buena, con las pérdidas descritas	Velocidad máxima, agentes de tareas mecánicas
Q6	22-23 GB	Muy cerca de Q8	Punto de partida para implementador y reviewer
Q8	~30 GB	Prácticamente sin pérdida	Cuando quieres máxima fiabilidad y aceptas menos velocidad

Con 64 GB tienes la opción de elegir. Con 48 GB la decisión estaría tomada por ti.

¿Cuánta memoria utiliza de verdad?

Hay que evitar dos confusiones. La primera: cuando el proceso del LLM ocupa, por ejemplo, 31 GB con dos sesiones abiertas, esos 31 GB ya incluyen los pesos. No se suman pesos + contexto por separado. La segunda: no hay que extrapolar tablas de memoria de modelos densos clásicos. Gracias a la atención híbrida, la KV cache de Qwen3.8-27B es mucho más pequeña de lo que su tamaño sugiere.

Contexto por sesión	KV cache aprox.
16K	~1 GB
32K	~2 GB
64K	~4 GB
128K	~8 GB
262K	~16,4 GB

Presupuesto completo para el escenario objetivo (dos agentes, uno a 64K y otro a 32K, más buffers de runtime de 2-3 GB):

Componente	Q4	Q6	Q8
Pesos	17 GB	23 GB	30 GB
KV cache (64K + 32K)	6 GB	6 GB	6 GB
Buffers y runtime	2-3 GB	2-3 GB	2-3 GB
LLM total	~25 GB	~31 GB	~38 GB
macOS	6-8 GB	6-8 GB	6-8 GB
IDE + language servers	3-4 GB	3-4 GB	3-4 GB
Docker (con límite a 4 GB)	4 GB	4 GB	4 GB
Navegador, terminales, harness	3-4 GB	3-4 GB	3-4 GB
Total sistema	~41-46 GB	~47-52 GB	~55-59 GB
Colchón	18-23 GB	12-17 GB	5-9 GB

Q4 sobra. Q6 es cómodo. Q8 cabe pero exige disciplina: Docker limitado, no más de dos sesiones, contextos de 64K como máximo. El objetivo no es comprar 64 GB para llenar 64 GB, sino conservar margen para caches, un contexto nuevo o un proceso inesperado sin entrar en compresión de memoria ni swap.

¿La velocidad es suficiente?

Sí, pero sólo con el runtime adecuado, y conviene saber qué esperar. Estas cifras son estimaciones orientativas: la máquina todavía no está en manos de nadie. En generación, estos modelos están limitados por la velocidad a la que leen sus pesos desde memoria. Por eso el ancho de banda es la cifra que manda, y por eso Q4 es más rápido que Q8: lee la mitad de bytes por token.

Estimaciones de generación con un único flujo (las cifras del Max con MTP se apoyan en mediciones publicadas de ~60 tok/s en Q4; el resto se escala por ancho de banda y tamaño de pesos; verifícalo en tu máquina):

Máquina	Q4 sin MTP	Q4 con MTP	Q6 con MTP	Q8 con MTP
Mac mini M5 Pro (307 GB/s)	~13-17 tok/s	~25-35	~20-28	~18-20
Mac Studio M5 Max (614 GB/s)	~30-35	~60+	~45-50	~40

La clave es la decodificación especulativa con la cabeza MTP del modelo, que runtimes MLX como MTPLX u oMLX ya explotan. Un ollama run genérico sobre GGUF no te da estas cifras.

Con dos agentes generando a la vez, cada uno recibe aproximadamente la mitad. En el Max eso sigue siendo utilizable; en el mini empieza a doler.

El prefill sigue siendo el punto débil de Apple Silicon. Procesar 32K tokens desde cero cuesta decenas de segundos; 64K o 128K, mucho más. Los 40 núcleos de GPU con aceleradores neurales del M5 Max ayudan, pero no eliminan el problema. Por eso hay dos requisitos, no consejos: Prefix/KV cache reutilizable entre llamadas del mismo agente. Si el contexto ya está procesado, no se reconstruye después de cada tool call. Y nivel de razonamiento por rol: bajo para el implementador en tareas mecánicas, medio-alto sólo para planner y reviewer.

Código y agentes: 16-32K normalmente, 64K en refactors

Que la ventana de 262K exista no significa que sea inteligente usarla constantemente. Para programación diaria, el punto práctico está en 16-32K: instrucciones, fragmentos relevantes del repo, documentación, diffs, resultados de herramientas y estado de la tarea. Para refactorizaciones grandes, 64K es razonable y la memoria lo permite sin esfuerzo. Por encima de 128K el coste de prefill deja de compensar en una máquina local.

Si varios agentes usan el mismo Qwen, no se cargan copias de los pesos por agente. Planner, implementador, reviewer y adversarial comparten el modelo cargado; lo que crece es la KV cache de cada sesión, que como hemos visto es pequeña. Lo que no comparten es el ancho de banda. Dos agentes generando en paralelo es el límite práctico del Max; a partir de tres, mejor encolar.

Y además puedes entrenarlo

No puedes hacer full fine-tuning de 27B: harían falta cientos de GB entre pesos, gradientes, optimizador y activaciones. Pero sí QLoRA con mlx-lm: el modelo cuantizado permanece congelado y se entrenan adapters pequeños. En un ejemplo reciente sobre Qwen3.8-27B se entrenaban unos 159 millones de parámetros, alrededor del 0,6 % del modelo.

Eso permite especializar el modelo con unos pocos miles de ejemplos propios. No para enseñarle Python, sino para enseñarle cómo quieres que utilice las tools, cómo debe revisar código, cómo ejecutar tests, qué patrones seguir, cómo estructurar patches y cuándo llamar o no a una herramienta.

Dos matices: en un Mac esto es lento (horas o días para unos miles de ejemplos, no un experimento de 20 minutos), y mientras entrenas no vas a poder usar la máquina para inferencia cómoda. El adapter resultante puede mantenerse separado o fusionarse; la inferencia queda en la misma categoría de memoria y velocidad. QLoRA no convierte un 27B en un frontier model, pero sí convierte un buen generalista en uno adaptado a tu workflow.

Entonces, ¿por qué no otra configuración?

¿Por qué no 128 GB (+1.760 €)? Porque con un 27B no los llenas ni en Q8 con dos sesiones largas. Empiezan a tener sentido si quieres un segundo modelo grande residente (un MoE de 100B+ como planner), y eso es otro proyecto con otro presupuesto.

¿Por qué no 48 GB (-440 €)? Porque te obliga a Q4 y a un solo contexto largo. Pierdes justo la libertad de elegir cuantización, que es el motivo de comprar esta máquina.

¿Por qué no la GPU de 32 núcleos (-330 €)? Porque los núcleos de GPU son los que aceleran el prefill, y el prefill es donde más se sufre en refactors grandes. Es la peor parte de la máquina donde recortar para este caso de uso.

¿Por qué 512 GB y no 1 TB (+330 €)? Porque por ese dinero un NVMe de 2 TB en caja Thunderbolt 5 te da cuatro veces más espacio para modelos, datasets y cuantizaciones. Con 512 GB internos vas justo pero funciona si mantienes modelos y datos de entrenamiento en el disco externo. Si prefieres no gestionar dos discos, 1 TB es razonable; pasar de ahí no.

El nuevo sweet spot

Mac Studio M5 Max · 18 CPU / 40 GPU · 64 GB · 512 GB, 4.129 €. Qwen3.8-27B en Q6 (~23 GB) vía MLX con decodificación especulativa MTP. Prefix cache obligatoria, razonamiento bajo en el implementador, máximo dos agentes generando a la vez.

Por ese dinero tienes un modelo competente para código, razonamiento, agentes y tool calling; ventanas reales de 32-64K; dos agentes trabajando; Docker e IDE abiertos; y todavía margen de memoria. Y la misma máquina sirve para entrenar adapters QLoRA sobre tus propios datos.

La entrega tarda unas cuatro semanas. Úsalas para probar Qwen3.8-27B por API con tu harness real. Sabrás cuántos tokens de salida y de prefill mueves de verdad al día, tendrás el runtime elegido y el pipeline montado, y el día que llegue la máquina el modelo estará trabajando en una hora en vez de en una semana.

La IA local competente para desarrollar software en serio, con agentes y refactors grandes, ya cuesta lo que una workstation profesional. La brecha que antes te obligaba a un cluster o a conformarte con menos se ha cerrado. Si te encaja, reserva y configura en la tienda oficial de Apple antes de que se agoten los 64 GB.