Files
Ollama-Modelfiles/qwen3.5:4b/Modelfile-Qwen3.5-4B-256k
Luca Sacchi Ricciardi 8e17722311 first commit
2026-03-30 16:35:05 +00:00

15 lines
458 B
Plaintext

FROM qwen3.5:4b
# --- PARAMETERS (Efficiency & Context) ---
# Forza la context window a 256k (262144 token)
PARAMETER num_ctx 262144
# Temperatura bilanciata (0.7 per un buon trade-off tra logica e fluidità)
PARAMETER temperature 0.7
# Ottimizzazione per evitare frammentazione del codice (ridotta rispetto al default 1.5)
PARAMETER presence_penalty 1.1
PARAMETER top_p 0.95
PARAMETER top_k 20
# Sfrutta appieno l'APU Phoenix (780M)
PARAMETER num_gpu 100