openclaw with local LLM

lclo

local erver :llama.cpp



llama-server.exe -m "你的模型路徑\gpt-oss-120b-MXFP4-00001-of-00002.gguf" -ngl all -c 65536 -t 8 -np 1 --port 8080 --no-mmap -fa on⚠️ 重點提醒：• 不要加 --chat-template 參數！讓引擎自動從 GGUF metadata 讀取• 一定要加 --no-mmap，否則系統 RAM 會被吃滿• -m 只需指定第一個檔案，它會自動找第二個• -ngl all 把所有層放進 GPU• -c 65536 設定 context window 大小• -t 8 CPU 執行緒數量• -np 1 單一 slot，避免 context 被分給多個請求• -fa on 啟用 flash attention 加速



--------------------  add to openclaw


【OpenClaw 設定 llamacpp provider】openclaw config set models.providers.llamacpp '{"baseUrl":"http://127.0.0.1:8080/v1","apiKey":"llamacpp-local","api":"openai-completions","models":[{"id":"gpt-oss-120b","name":"GPT-OSS 120B","reasoning":false,"input":["text"],"cost":{"input":0,"output":0,"cacheRead":0,"cacheWrite":0},"contextWindow":65536,"maxTokens":8192}]}' --json───────────────────────【OpenClaw 設定預設模型】openclaw config set agents.defaults.model.primary "llamacpp/gpt-oss-120b"openclaw config set agents.defaults.models '{"llamacpp/gpt-oss-120b":{}}' --json───────────────────────【Telegram 重置對話】在 Telegram 中輸入 /new 或 /reset 清除歷史對話（直接刪除 Telegram 訊息是沒用的，OpenClaw 有自己的記憶體系統）