first commit
This commit is contained in:
14
qwen3.5:0.8b/Modelfile-Qwen3.5-0.8B-256k
Normal file
14
qwen3.5:0.8b/Modelfile-Qwen3.5-0.8B-256k
Normal file
@@ -0,0 +1,14 @@
|
||||
FROM qwen3.5:0.8b
|
||||
|
||||
# --- PARAMETERS (Ultra-Lightweight & Max Context) ---
|
||||
# Forza la context window a 256k (262144 token)
|
||||
PARAMETER num_ctx 262144
|
||||
# Temperatura bassa per task di utility e parsing (0.3)
|
||||
PARAMETER temperature 0.3
|
||||
# Ottimizzazione per precisione tecnica
|
||||
PARAMETER presence_penalty 1.1
|
||||
PARAMETER top_p 0.95
|
||||
PARAMETER top_k 20
|
||||
# Caricamento istantaneo su APU Phoenix (780M)
|
||||
PARAMETER num_gpu 100
|
||||
|
||||
Reference in New Issue
Block a user