Los pesos del modelo Gemma 4 están disponibles gratis desde Hugging Face, Kaggle, Ollama y ModelScope. Esta guía cubre todas las variantes — E2B, E4B, 26B MoE y 31B Dense — y todos los formatos: SafeTensors en precisión completa, GGUF cuantizado (Q4 / Q5 / Q8), GPTQ y MLX — con enlaces de descarga directos y tamaños de archivo.
Todos los modelos Gemma 4 se publican bajo la licencia Apache 2.0, lo que significa que puedes descargarlos, usarlos, modificarlos y redistribuirlos libremente para cualquier propósito — incluidas aplicaciones comerciales.
Tamaños reales de archivo leídos de los repositorios oficiales de GGUF de unsloth en Hugging Face — el publicador de GGUF de Gemma 4 con más descargas. Haz clic en cualquier ruta de repositorio para ver su lista de archivos.
| Modelo | Parámetros totales | Q4_K_M | Q5_K_M | Q8_0 | BF16 | Repositorio de Hugging Face |
|---|---|---|---|---|---|---|
| Gemma 4 E2B-it | 5B | 3.11 GB | 3.36 GB | 5.05 GB | 9.31 GB | unsloth/gemma-4-E2B-it-GGUF |
| Gemma 4 E4B-it | 8B | 4.98 GB | 5.48 GB | 8.19 GB | 15.1 GB | unsloth/gemma-4-E4B-it-GGUF |
| Gemma 4 26B-A4B-it | 27B (MoE, 4B activo) | 16.9 GB | 21.2 GB | 26.9 GB | — | unsloth/gemma-4-26B-A4B-it-GGUF |
| Gemma 4 31B-it | 33B (Dense) | 18.3 GB | 21.7 GB | 32.6 GB | — | unsloth/gemma-4-31B-it-GGUF |
Tamaños verificados el 2026-04-21 desde los repositorios de unsloth en Hugging Face. Para SafeTensors de precisión completa, usa los repositorios oficiales google/gemma-4-E2B, -E4B, -26B-A4B y -31B (añade -it para la versión instruction-tuned). Los archivos Q4 / Q5 del 26B-A4B publicados por unsloth son variantes Unsloth Dynamic (UD) en el tramo de tamaño Q4_K_M / Q5_K_M.
La plataforma principal para los pesos del modelo Gemma 4. Ofrece todas las variantes en múltiples formatos, incluyendo SafeTensors, GGUF y versiones cuantizadas GPTQ. Admite descargas basadas en git, el CLI de Hugging Face y descargas directas desde el navegador.
La plataforma de ciencia de datos de Google aloja los pesos oficiales del modelo Gemma 4. Cómodo para usuarios que ya están en el ecosistema Kaggle, con integración de notebooks para experimentación rápida.
Modelos Gemma 4 preempaquetados optimizados para inferencia local con Ollama. Descarga y ejecución con un solo comando. Los modelos se cuantizan y optimizan automáticamente para tu hardware.
Plataforma de hosting de modelos con base en China con velocidades de descarga rápidas para usuarios en Asia. Refleja los modelos oficiales de Gemma 4 con documentación completa en chino.
Entendiendo los diferentes formatos de archivo del modelo disponibles para Gemma 4:
El formato por defecto en Hugging Face. Tensores seguros y de carga rápida diseñados para prevenir vulnerabilidades de ejecución de código. Usado con Hugging Face Transformers, vLLM y otros frameworks basados en Python.
Investigación, fine-tuning, frameworks de Python, servicio con vLLM
El formato estándar para llama.cpp y Ollama. Admite varios niveles de cuantización (Q4, Q5, Q8, etc.) para reducir el tamaño del modelo y los requisitos de memoria. Optimizado para inferencia en CPU y CPU/GPU mixta.
Inferencia local, Ollama, llama.cpp, KoboldCpp, LM Studio
Formato de cuantización optimizado para GPU que mantiene alta precisión mientras reduce significativamente los requisitos de VRAM. Disponible a través de contribuciones de la comunidad en Hugging Face.
Inferencia en GPU con VRAM reducida, servicio en producción
Formato nativo de ML de Apple optimizado para Apple Silicon (M1/M2/M3/M4). Aprovecha la arquitectura de memoria unificada para una inferencia eficiente en hardware Mac.
Mac con Apple Silicon, framework MLX
La cuantización reduce el tamaño del modelo y el uso de memoria a costa de algo de precisión. Así se comparan los diferentes niveles para Gemma 4:
| Format | Bits | Quality | Notes |
|---|---|---|---|
| BF16 / FP16 (precisión completa) | 16 bits | 100% | Calidad completa del modelo sin pérdida de precisión. Requiere la mayor VRAM y espacio en disco. |
| INT8 / Q8 | 8 bits | ~98-99% | Pérdida mínima de calidad. Reduce a la mitad los requisitos de VRAM comparado con FP16. Recomendado para la mayoría de los despliegues en GPU. |
| Q5_K_M | 5 bits | ~95-97% | Buen balance de calidad y tamaño. Elección popular para inferencia local con formato GGUF. |
| INT4 / Q4_K_M | 4 bits | ~93-95% | Reducción significativa de tamaño con calidad aceptable para la mayoría de los casos de uso. Permite ejecutar modelos más grandes en hardware de consumo. |
Instala el CLI de Hugging Face y descarga modelos directamente:
pip install huggingface_hub
# Full-precision SafeTensors (official Google repo)
huggingface-cli download google/gemma-4-31B-it
# GGUF quantized (community, unsloth — most downloaded)
huggingface-cli download unsloth/gemma-4-31B-it-GGUF \
--include "gemma-4-31B-it-Q4_K_M.gguf"Clona los repositorios del modelo con Git Large File Storage:
git lfs install
git clone https://huggingface.co/google/gemma-4-31B-itDescarga modelos directamente en Ollama:
# Pull any variant
ollama pull gemma4:e2b
ollama pull gemma4:e4b
ollama pull gemma4:26b
ollama pull gemma4:31bHugging Face es la fuente más completa con todos los formatos y variantes. Para configuración local con un solo comando, usa Ollama. Para usuarios en China, ModelScope ofrece velocidades de descarga más rápidas.
Para Ollama o llama.cpp: descarga archivos GGUF. Para Python/vLLM: usa el formato SafeTensors. Para Mac con Apple Silicon: usa el formato MLX. Si no estás seguro, empieza con Ollama que maneja la selección de formato automáticamente.
Tamaños en precisión completa: E2B (~4GB), E4B (~8GB), 26B MoE (~52GB), 31B Denso (~62GB). Las versiones cuantizadas Q4 son aproximadamente 4 veces más pequeñas. Las descargas por defecto de Ollama usan cuantización optimizada.
No. Los modelos Gemma 4 son públicamente accesibles bajo la licencia Apache 2.0. Puedes descargar sin una cuenta, aunque tener una permite descargas más rápidas y acceso al CLI de Hugging Face.
GGUF (GPT-Generated Unified Format) es un formato binario diseñado para inferencia local eficiente con llama.cpp y Ollama. Admite varios niveles de cuantización, permitiéndote intercambiar precisión por tamaños de archivo más pequeños y menor uso de memoria.
Sí. ModelScope (魔搭社区) refleja los modelos Gemma 4 con velocidades de descarga rápidas dentro de China. Alternativamente, usa un mirror o proxy para las descargas de Hugging Face.
Obtén los pesos del modelo Gemma 4 y empieza a desplegarlo. Revisa nuestra guía de despliegue para instrucciones paso a paso.