認識 Ollama
Ollama 是在本機執行開源大語言模型(Large Language Model, LLM)的工具。裝好之後,用一條指令就能下載模型、在終端機對話,並自動提供本機 REST API,讓 Python、JavaScript 或聊天介面接到同一個後端。
本站用繁體中文整理官方文件最常用的那一層,並把最接近官方的影音與優質 YouTube 教學嵌在對應主題頁。完整規格請以 官方文件 與 GitHub 倉庫 為準。
Ollama 目前沒有官方認證課
官方學習入口是 docs.ollama.com 與 ollama.com。沒有 Certificate/Certification program。影音以創始團隊成員 Matt Williams 的免費課程最接近「官方教學」,其餘為優質第三方,清單見 影音教學。
最必須掌握的 20%
學會這六件事,日常就能把 Ollama 用起來:
- 裝好並確認服務在跑:macOS/Windows 用安裝程式,Linux 用官方腳本。服務預設聽
http://localhost:11434。 - 跑第一個模型:
ollama run gemma4會下載(若尚未有)並進入對話。結束打/bye。 - 依記憶體選模型大小:參數愈多通常愈聰明、也愈吃 RAM/VRAM。筆電先從 1B~8B、預設 4-bit 量化開始。
- 會管模型:
pull下載、ls列出、rm刪除、ps看是否載入 GPU。磁碟空間比安裝檔大得多。 - 分清本機與雲端:本機模型預設不把提示詞送回 ollama.com;
gemma4:cloud這類雲端模型則會送到官方雲端推論。 - 需要時再接 API:終端機夠用就先停在這裡。寫程式再用
/api/chat或官方 Python/JS 套件。
其餘(Modelfile、Open WebUI、ollama launch)都建立在這六件事上面。
學習路徑
建議依這個順序讀,不要一開始就鑽 RAG 或微調:
- 入門:安裝、跑通第一個模型。
- 模型:從圖書館挑對大小,學會 CLI 管理。
- 自訂:用 Modelfile 改系統提示與參數。
- 開發:REST API 與官方函式庫。
- 應用:Open WebUI 與 Claude Code、OpenCode 等整合。
Ollama 適合什麼情境
Ollama 強調本機優先:模型檔在你的電腦上,對話可以離線。適合:
- 不想把內部文件或程式碼送到第三方聊天服務。
- 想在沒有穩定外網的環境用 LLM。
- 要把開源模型接到自己的腳本、IDE 或自架聊天介面。
它不是訓練框架。微調權重通常用其他工具;Ollama 負責把現成(或你匯入的)模型跑起來。雲端模型是可選的補充,不是預設路徑。
先看這支總覽
Matt Williams 曾任 Ollama 創始團隊成員。這支 Getting Started 從硬體、安裝、pull/run、量化命名講到自訂模型與社群 GUI,適合建立心智模型。細節再對照本站各頁。