Skip to content

建立 2026-09-15 更新 2026-09-15

認識 Ollama

Ollama 是在本機執行開源大語言模型(Large Language Model, LLM)的工具。裝好之後,用一條指令就能下載模型、在終端機對話,並自動提供本機 REST API,讓 Python、JavaScript 或聊天介面接到同一個後端。

本站用繁體中文整理官方文件最常用的那一層,並把最接近官方的影音優質 YouTube 教學嵌在對應主題頁。完整規格請以 官方文件GitHub 倉庫 為準。

Ollama 目前沒有官方認證課

官方學習入口是 docs.ollama.comollama.com。沒有 Certificate/Certification program。影音以創始團隊成員 Matt Williams 的免費課程最接近「官方教學」,其餘為優質第三方,清單見 影音教學

最必須掌握的 20%

學會這六件事,日常就能把 Ollama 用起來:

  1. 裝好並確認服務在跑:macOS/Windows 用安裝程式,Linux 用官方腳本。服務預設聽 http://localhost:11434
  2. 跑第一個模型ollama run gemma4 會下載(若尚未有)並進入對話。結束打 /bye
  3. 依記憶體選模型大小:參數愈多通常愈聰明、也愈吃 RAM/VRAM。筆電先從 1B~8B、預設 4-bit 量化開始。
  4. 會管模型pull 下載、ls 列出、rm 刪除、ps 看是否載入 GPU。磁碟空間比安裝檔大得多。
  5. 分清本機與雲端:本機模型預設不把提示詞送回 ollama.com;gemma4:cloud 這類雲端模型則會送到官方雲端推論。
  6. 需要時再接 API:終端機夠用就先停在這裡。寫程式再用 /api/chat 或官方 Python/JS 套件。

其餘(Modelfile、Open WebUI、ollama launch)都建立在這六件事上面。

  • 安裝


    macOS、Windows、Linux 與 Docker 的安裝方式。

  • 第一次執行


    ollama 選單、ollama run、對話指令與離開。

  • 選模型


    模型庫、標籤、量化與硬體怎麼配。

  • 影音教學


    官方團隊課程、中文總覽,以及英文入門與進階。

學習路徑

建議依這個順序讀,不要一開始就鑽 RAG 或微調:

  1. 入門:安裝、跑通第一個模型。
  2. 模型:從圖書館挑對大小,學會 CLI 管理。
  3. 自訂:用 Modelfile 改系統提示與參數。
  4. 開發:REST API 與官方函式庫。
  5. 應用:Open WebUI 與 Claude Code、OpenCode 等整合。

Ollama 適合什麼情境

Ollama 強調本機優先:模型檔在你的電腦上,對話可以離線。適合:

  • 不想把內部文件或程式碼送到第三方聊天服務。
  • 想在沒有穩定外網的環境用 LLM。
  • 要把開源模型接到自己的腳本、IDE 或自架聊天介面。

不是訓練框架。微調權重通常用其他工具;Ollama 負責把現成(或你匯入的)模型跑起來。雲端模型是可選的補充,不是預設路徑。

先看這支總覽

Matt Williams 曾任 Ollama 創始團隊成員。這支 Getting Started 從硬體、安裝、pullrun、量化命名講到自訂模型與社群 GUI,適合建立心智模型。細節再對照本站各頁。

想一次看完精選清單,請到 影音教學。想認識唯客學院,請看 關於我們