first commit
This commit is contained in:
14
qwen3.5:4b/Modelfile-Qwen3.5-4B-256k
Normal file
14
qwen3.5:4b/Modelfile-Qwen3.5-4B-256k
Normal file
@@ -0,0 +1,14 @@
|
||||
FROM qwen3.5:4b
|
||||
|
||||
# --- PARAMETERS (Efficiency & Context) ---
|
||||
# Forza la context window a 256k (262144 token)
|
||||
PARAMETER num_ctx 262144
|
||||
# Temperatura bilanciata (0.7 per un buon trade-off tra logica e fluidità)
|
||||
PARAMETER temperature 0.7
|
||||
# Ottimizzazione per evitare frammentazione del codice (ridotta rispetto al default 1.5)
|
||||
PARAMETER presence_penalty 1.1
|
||||
PARAMETER top_p 0.95
|
||||
PARAMETER top_k 20
|
||||
# Sfrutta appieno l'APU Phoenix (780M)
|
||||
PARAMETER num_gpu 100
|
||||
|
||||
Reference in New Issue
Block a user