ΒΏQuΓ© puedo correr con X GB?
Estimaciones para modelos cuantizados en Q4 (ej. GGUF Q4_K_M en llama.cpp / Ollama / LM Studio) con contexto corto. MΓ‘s contexto requiere mΓ‘s memoria. En Mac y mini PCs con memoria unificada consideramos ~75% utilizable.
| TamaΓ±o | Ejemplos | Memoria aprox. (Q4) | Equipo mΓ‘s barato hoy |
|---|---|---|---|
| 7β8B | Llama 3.1 8B, Qwen3 8B | ~6 GB | AMD Radeon RX 9070 XT 16GB Β· $999.990 |
| 12β14B | Qwen3 14B, Gemma 3 12B | ~10 GB | AMD Radeon RX 9070 XT 16GB Β· $999.990 |
| 27β32B | Qwen3 32B, Gemma 3 27B | ~20 GB | AMD Radeon RX 7900 XTX 24GB Β· $1.249.900 |
| 70B | Llama 3.3 70B | ~42 GB | Apple Mac Studio M5 Ultra 96GB Β· $6.799.990 |
| 120B (MoE) | gpt-oss-120b | ~66 GB | Apple Mac Studio M5 Ultra 96GB Β· $6.799.990 |
| 235B (MoE) | Qwen3 235B-A22B | ~135 GB | β |
Por cantidad de memoria
8 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
12 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
16 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
24 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
32 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
64 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
96 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)
128 GB
β 7β8Bβ 12β14Bβ 27β32Bβ 70Bβ 120B (MoE)β 235B (MoE)