Qué modelo de IA local necesitas y qué equipo te pide

Cuando alguien se plantea correr IA en local, casi todos los artículos empiezan por el hardware: que si gráficas, que si gigas de RAM, que si tal procesador. Pero esa es la pregunta equivocada para empezar. La buena es: ¿qué quieres que haga la IA? Porque de ahí sale el tamaño de modelo que necesitas, y solo entonces tiene sentido hablar de equipo.

Este artículo va de eso: qué tipo de modelo sirve para qué, cómo de listo es cada franja, y qué máquina te pide. Sin humo y con modelos concretos que la comunidad ya ha probado.

La idea de fondo en dos minutos

Un modelo de lenguaje hay que cargarlo entero en memoria para usarlo. Se mide en parámetros: 7B, 14B, 32B, 70B... (la "B" es de miles de millones). Más parámetros = más capacidad de razonamiento y conocimiento, pero también más memoria y más lento.

Lo que hace todo esto viable en un equipo normal es la cuantización: reducir la precisión de los números internos del modelo para que ocupe menos. El formato más usado, Q4_K_M, recorta el tamaño casi a la mitad con una pérdida de calidad mínima en modelos medianos y grandes. Es el punto dulce; úsalo por defecto.

Regla de bolsillo para estimar lo que ocupa un modelo en Q4: GB ≈ parámetros × 0,6. Un 32B ocupa unos 19 GB. A eso súmale el contexto (la memoria de la conversación o de los ficheros que le das a leer), que añade entre 2 y 10 GB según lo largo que sea.

Y el detalle que casi todos olvidan: tu sistema operativo y tus aplicaciones también necesitan RAM. Si le das toda la memoria al modelo, el equipo se arrastra. Reserva siempre un mínimo de 8 GB para el sistema, y mejor 16 GB si vas a trabajar mientras (navegador, editor y modelo a la vez). La cuenta real es: modelo + contexto + colchón de sistema.

Qué hace cada franja de modelo y para qué te sirve

Aquí está lo importante. No es "cuánto ocupa" sino "para qué me vale de verdad".

Modelos de 7B — para tareas acotadas

Es el escalón de entrada. Sirven para cosas concretas y de bajo riesgo: autocompletar código, reformular un texto, resúmenes cortos, clasificar, responder preguntas sencillas. Para programación seria se quedan cortos —cometen errores y pierden el hilo en cuanto la cosa se complica—, pero para trastear, aprender y tareas repetitivas cumplen.

Para qué lo querrás: un asistente ligero siempre disponible, autocompletado, pequeñas automatizaciones de texto.

Modelos probados por la comunidad: Llama 3.1 8B, Qwen2.5 7B, y para código Qwen2.5-Coder 7B.

Equipo: cualquier portátil moderno con 16 GB de RAM.

Modelos de 14B — el todoterreno ligero

Salto notable en coherencia. Ya generan código decente para funciones y componentes concretos, redactan bien y aguantan más contexto sin despistarse. Van rápidos y entran en equipos de gama media. Buena opción si priorizas velocidad y tu trabajo no exige el máximo de calidad en cada respuesta.

Para qué lo querrás: generación de código de tareas concretas, redacción, un asistente más capaz, trabajo cotidiano sin grandes exigencias.

Modelos probados por la comunidad: Qwen2.5-Coder 14B (muy bueno para su tamaño), Phi-4 14B, DeepSeek-Coder-V2 Lite (16B).

Equipo: 24-32 GB de RAM.

Modelos de 32B / 35B — el punto dulce del trabajo serio

Esta es la franja que recomendaría a la mayoría de la comunidad. Un buen modelo de 32B especializado en código genera código sólido en PHP, JavaScript, HTML y CSS, entiende proyectos de tamaño medio, refactoriza con criterio y funciona bien como motor de agentes (Claude Code, OpenCode o similares apuntando a tu modelo local). La calidad ya es de verdad, no un apaño.

Aquí Q4_K_M brilla: la pérdida frente a versiones más pesadas es casi imperceptible, porque el modelo tiene margen de sobra para absorber la cuantización. Y un consejo práctico: para código, más contexto rinde mejor que más bits de precisión. Quédate en Q4 y usa la RAM que ahorras para darle al modelo más ventana donde leer tu proyecto.

Para qué lo querrás: desarrollo serio en tu máquina, agentes de código, asistente principal de trabajo, análisis de proyectos medianos.

Modelos probados por la comunidad: Qwen2.5-Coder 32B (la referencia para código abierto en esta franja), GLM-4 32B (más generalista, buen complemento), Gemma 2 27B.

Equipo: 48 GB de RAM. Si tienes que elegir un solo objetivo, apunta aquí.

Modelos de 70B — calidad alta para quien la necesita

Más criterio en tareas complejas, ambiguas o de razonamiento. La diferencia se nota en problemas difíciles, no tanto en generar código rutinario del día a día. El salto de hardware es grande: necesitas 96 GB de RAM, lo que ya implica un equipo dedicado. Tiene sentido si montas un servidor de inferencia o si tu trabajo justifica esa calidad extra.

Para qué lo querrás: razonamiento complejo, tareas donde el 32B se queda corto, un servidor de IA personal de alta calidad.

Modelos probados por la comunidad: Llama 3.3 70B, Qwen2.5 72B.

Equipo: 96 GB de RAM.

Modelos de 120B+ — territorio servidor

Calidad cercana a los modelos comerciales en muchas tareas, pero exige 128 GB de RAM y una máquina pensada para ello. Para la mayoría de freelances y agencias pequeñas es más capacidad de la que se aprovecha a diario, salvo que la privacidad absoluta de datos sensibles sea un requisito de negocio (datos de clientes, información fiscal), en cuyo caso correrlo 100% en local sí es un argumento de peso.

Para qué lo querrás: máxima calidad en local, privacidad total para datos delicados, servidor de equipo.

Modelos probados por la comunidad: gpt-oss 120B, Qwen3 de gran formato.

Equipo: 128 GB de RAM.

Tabla resumen

RAM aconsejada en Q4_K_M, contexto de trabajo razonable y colchón de sistema ya incluido:

Modelo Para qué sirve Equipo mínimo 7B Tareas acotadas, autocompletar, textos cortos 16 GB 14B Código concreto, redacción, asistente ligero 24-32 GB 32B Desarrollo serio, agentes, asistente principal 48 GB 70B Razonamiento complejo, servidor de calidad 96 GB 120B+ Máxima calidad, privacidad total, servidor 128 GB

> En equipos de memoria unificada (Mac Apple Silicon, mini PC con AMD Ryzen AI Max) la RAM del sistema y la del modelo salen del mismo sitio, por eso el colchón es innegociable. En un PC con gráfica dedicada la limitación es la VRAM de la tarjeta, que en consumo rara vez pasa de 24 GB — por eso los equipos de memoria unificada se han vuelto tan atractivos para correr modelos grandes en local.

Recomendación según lo que eres

"Solo quiero probar y aprender." Portátil con 16 GB y un modelo de 7B-14B. Cero inversión, empiezas hoy.

"Quiero usarlo en serio para programar, en mi máquina." Apunta a 48 GB y un 32B tipo Qwen2.5-Coder. Es el equilibrio realista entre calidad, velocidad y coste, y donde el local empieza a competir de verdad con la nube.

"Quiero un servidor de IA dedicado, encendido siempre, sin tocar mi equipo de trabajo." Un mini PC con AMD Ryzen AI Max+ 395 y 128 GB (de los que ~96 GB se asignan a la GPU) te permite correr un 70B con contexto largo y un modelo ligero para un asistente, a la vez, con bajo consumo para tenerlo 24/7. Hoy es la opción más interesante en relación capacidad/precio para uso local serio.

Para empezar bien

Usa LM Studio o Ollama. Gestionan la descarga, la cuantización y exponen una API compatible con OpenAI, así que conectas tus herramientas (incluido el flujo de agentes) a tu modelo local igual que harías con un servicio en la nube. LM Studio es más visual; Ollama, más de terminal.

En Mac, descarga la versión MLX del modelo si existe. Está optimizada para Apple Silicon y va bastante más rápido que la genérica a igual calidad.

No te obsesiones con la cuantización máxima. Para desarrollo, un modelo en Q4 con más contexto rinde mejor en la práctica que el mismo modelo en Q8 con menos espacio para leer tu proyecto.

Si te llevas una sola idea: define primero qué quieres que haga la IA, y de ahí sale el modelo. Para desarrollo serio, un 32B en un equipo de 48 GB es el punto donde el local deja de ser un experimento y se convierte en herramienta de trabajo.