Calculadora de memoria para IA local
Elige un modelo de pesos abiertos y una cuantización. Te mostramos cuánta memoria necesita y la opción más barata en Chile para correrlo, con precios de hoy.
¿Aún no eliges GPU? Mira la guía de la mejor GPU para IA local en Chile: precio en CLP, pesos por GB y modelos que entran.Destacados
Kimi
GLM
OpenAI gpt-oss
DeepSeek
Llama
Qwen
Gemma
Mistral
Beam (Reflection AI)
Buscar entre 751 modelos de Hugging Face
¿No está? Pega cualquier ID de Hugging Face
Modelo
—
Memoria necesaria: —
Opciones más baratas en Chile hoy
| Equipo | Memoria útil | Costo total | Tienda |
|---|---|---|---|
| Elige un modelo. | |||
Supuestos del cálculo
- Pesos = parámetros totales × bytes por parámetro: Q4 ≈ 4,85 bits (tipo Q4_K_M de llama.cpp), Q8 ≈ 8,5 bits (Q8_0), FP16 = 16 bits.
- En modelos MoE se usan los parámetros totales: todos los expertos deben estar en memoria aunque solo una parte se active por token (los activos afectan la velocidad, no la memoria). No consideramos descargar expertos a RAM/disco.
- KV cache en FP16 para el contexto elegido, calculado con el config.json del modelo: 2 × capas × cabezas KV × dimensión × tokens × 2 bytes (en atención MLA tipo DeepSeek/Kimi: capas × dimensión latente × tokens × 2 bytes). Modelos con atención híbrida o ventana deslizante usan menos; este cálculo es conservador. Si no hay config disponible, estimamos 10% de los pesos.
- Overhead de ejecución: 1 GB + 5% de los pesos (buffers, activaciones).
- Memoria útil: GPUs = 100% de su VRAM (multi-GPU de la misma tarjeta, hasta 4, repartiendo capas con llama.cpp/vLLM; requiere placa y fuente adecuadas). Mac, Ryzen AI Max y DGX Spark = ~75% de la memoria unificada.
- Parámetros: model card oficial para los destacados; para el resto, metadatos safetensors de la API de Hugging Face. Si los pesos publicados ya vienen empaquetados (int4/int8), el conteo puede ser aproximado y lo marcamos.