Obtener el mejor resultado de Gemma 4 requiere la configuración de parámetros correcta. La temperatura, top-p, penalización por repetición y longitud de contexto impactan significativamente en la calidad. Esta guía ofrece presets probados para casos de uso comunes para que obtengas resultados óptimos de inmediato.
Estos presets funcionan en todas las herramientas de inferencia de Gemma 4 — Ollama, LM Studio, vLLM, llama.cpp y MLX. Ajusta los valores para que coincidan con tus necesidades específicas.
Controla la aleatoriedad en la salida. Valores más bajos (0.1-0.3) producen respuestas más deterministas y enfocadas. Valores más altos (0.8-1.2) aumentan la creatividad y la variedad. Valores superiores a 1.5 pueden producir salida incoherente.
Limita la selección de tokens al conjunto más pequeño de tokens cuya probabilidad acumulada excede P. Valores más bajos (0.5-0.7) enfocan la salida; valores más altos (0.9-1.0) permiten más diversidad. Funciona en conjunto con la temperatura.
Limita la consideración a los K tokens más probables. Valores más bajos aumentan el enfoque y la consistencia. Establece en 1 para una salida totalmente determinista (greedy).
Penaliza la repetición de tokens para evitar bucles y salida redundante. Valores alrededor de 1.05-1.15 funcionan bien para la mayoría de los casos de uso. Valores más altos pueden hacer que el modelo evite repeticiones necesarias.
Número máximo de tokens que el modelo considera. Contextos más grandes permiten procesar documentos más largos pero requieren más memoria. Gemma 4 admite hasta 128K (E2B/E4B) o 256K (26B/31B).
Número máximo de tokens a generar en la respuesta. Establece más alto para generación de contenido de formato largo, más bajo para respuestas concisas.
Optimizado para generación de código, depuración y tareas técnicas. Temperatura baja para precisión, contexto alto para comprensión de la base de código.
Eres un ingeniero de software experto. Escribe código limpio, bien documentado y con calidad de producción. Incluye siempre manejo de errores y sigue las mejores prácticas para el lenguaje que se esté usando.
Temperatura más alta para variedad creativa, con suficiente top-p para mantener la coherencia. Bueno para historias, textos de marketing y lluvia de ideas.
Eres un escritor creativo talentoso. Escribe contenido vívido y atractivo con una voz narrativa fuerte. Varía la estructura de las oraciones y usa lenguaje evocador.
Ajustes balanceados para tareas analíticas — análisis de documentos, resumen e investigación. Temperatura moderada con contexto largo para análisis exhaustivo.
Eres un analista minucioso. Proporciona análisis bien estructurados y basados en evidencia. Cita detalles específicos del material fuente. Sé objetivo y exhaustivo.
Preset versátil para interacciones cotidianas. Tono conversacional natural con buen balance entre consistencia y variedad.
Eres un asistente de IA útil y amigable. Proporciona respuestas claras y precisas. Haz preguntas aclaratorias cuando sea necesario. Sé conciso pero minucioso.
Alta creatividad con fuerte penalización por repetición para mantener la consistencia del personaje. Adecuado para ficción interactiva y conversaciones basadas en personajes.
Mantente en el personaje en todo momento. Responde con descripciones vívidas, profundidad emocional y personalidad consistente. Nunca rompas la cuarta pared.
Aleatoriedad mínima para tareas que requieren precisión — extracción de datos, clasificación, salida estructurada y preguntas y respuestas factuales.
Eres un asistente preciso y factual. Proporciona solo información precisa. Si no estás seguro, dilo. Usa formatos estructurados (listas, tablas) cuando sea apropiado.
Crea un Modelfile personalizado para aplicar un preset en Ollama:
# Create a Modelfile
cat > Modelfile.coding <<'EOF'
FROM gemma4:e4b
PARAMETER temperature 0.2
PARAMETER top_p 0.85
PARAMETER top_k 20
PARAMETER repeat_penalty 1.05
PARAMETER num_ctx 32768
SYSTEM """
You are an expert software engineer. Write clean, well-documented, production-quality code. Always include error handling and follow best practices for the language being used.
"""
EOF
# Build and run
ollama create gemma4-coding -f Modelfile.coding
ollama run gemma4-codingDepende de la tarea: 0.1-0.3 para código y tareas factuales, 0.6-0.8 para chat general, 0.8-1.0 para escritura creativa. Empieza con el preset recomendado para tu caso de uso y ajusta según la calidad del resultado.
La mayoría de los usuarios deberían usar top-p (nucleus sampling) ya que se adapta mejor a diferentes distribuciones de probabilidad. Top-k es más simple pero puede ser demasiado restrictivo o demasiado suelto dependiendo del contexto. Usarlos juntos ofrece control de grano fino.
Usa el contexto más pequeño que se ajuste a tus necesidades — un contexto más largo usa más memoria. 8K está bien para chats simples. 32K para archivos de código. 64K+ para documentos largos. Solo usa 128K/256K cuando proceses entradas muy grandes.
Aumenta la penalización por repetición (prueba 1.15-1.25). También prueba aumentar ligeramente la temperatura (añade 0.1-0.2) y reducir top-k. Si el modelo se queda en bucle con frases específicas, agrégalas a una lista de penalización por presencia si tu herramienta lo admite.
Los mismos presets generalmente funcionan en todas las variantes de Gemma 4. Los modelos más pequeños (E2B, E4B) pueden beneficiarse de temperaturas ligeramente más bajas (resta 0.1) para compensar la capacidad reducida del modelo. El modelo 31B maneja bien temperaturas más altas.
Estos presets están optimizados para Gemma 4 pero funcionan como puntos de partida razonables para la mayoría de los LLM. Diferentes familias de modelos pueden responder de manera diferente a los mismos ajustes — siempre prueba y ajusta.
Descarga Gemma 4 y empieza a usar estas configuraciones optimizadas. O prueba Gemma 4 en línea primero.