Skip to content

建立 2026-09-15 更新 2026-09-15

lms 與 llmster

官方把產品拆成三件，不要混在一起：

名稱 是什麼
LM Studio 有畫面的桌面程式：搜尋、聊天、RAG、MCP、開伺服器
llmster 沒有 GUI 的背景服務，給 Linux 伺服器、GPU 機、CI 用
lms 命令列，同時打得到桌面 App 與 llmster

官方：LM Studio, llmster, and lms、lms CLI、Headless

裝過桌面版或 llmster，lms 就會附上。桌面版要先成功開過一次。終端機跑 lms --help 確認指令在 PATH 裡。

常用指令

lms get openai/gpt-oss-20b   # 下載
lms load openai/gpt-oss-20b  # 載入記憶體
lms ls                       # 磁碟上有哪些模型
lms ps                       # 目前載在記憶體裡的
lms server start             # 開 http://localhost:1234
lms chat                     # 終端機裡對話
lms log stream               # 看進出請求

單次提問可把 stdin 管進去：

cat notes.txt | lms chat -p "請用三點摘要"

lms load 可加 --gpu、--context-length。沒開 GUI 時執行 lms，它會自行把服務拉起來。

無介面怎麼跑

兩種做法：

  1. llmster（建議）：獨立 daemon，不必裝桌面。Linux 可用官方 install script，再用 systemd 開機啟動。見 llmster as a Startup Task。
  2. 桌面 App 的 Headless：設定裡勾登入後跑 LLM 服務；關掉視窗會縮到系統列，伺服器繼續。

JIT 載入一樣適用：客戶端打 /v1/models 會看到已下載（不一定已載入）的模型；第一次推論再載入。

想把本機模型接到手機，看官方 LM Link 與 Locally App 說明。