官方團隊與課程
Ollama 公司沒有維護一套「官方 YouTube 課程」。下列影片來自 Matt Williams:他曾是 Ollama 創始團隊/維護者,離職後把教學做成 YouTube 上完全免費的 The Ollama Course(Basics、Advanced 等播放清單)。內容對齊專案術語與 CLI,是目前最接近官方的系統影音。
播放清單:
介面若與現版 Ollama 有出入,以 docs.ollama.com 為準。
Getting Started on Ollama
從硬體與 GPU、三平台安裝、ollama pull/run、模型名稱裡的參數規模與 Q4 量化、REPL 提問,講到自訂模型與官網列出的社群 GUI。適合當第一支英文片。對應 安裝 與 第一次執行。
課程前言:為什麼做這套課
The Ollama Course 的第 0 集。說明課程會涵蓋 CLI、模型、前端與多種語言開發,並強調全部放在 YouTube、不另收學費。還沒開始操作前,用來建立預期。
課程第 1 課:Intro to Ollama
安裝後實際走進圖書館、複製 run 指令、比較不同量化標籤,並在 REPL 用 /? 看指令。對應 模型庫。
上下文長度(num_ctx)
說明模型頁面上的最大 context 與 Ollama 實際預設常常不同,以及用 /set、API options、Modelfile PARAMETER 三種改法。警告一次開到 128K 會吃光記憶體。對應 Modelfile。
幻覺從哪來
用通俗語言講模型為何會「很有自信地講錯」,以及能做與不能做的緩解。不是操作逐步教學,但對評估本機小模型很有用。
用 Ollama 做 RAG
檢索增強生成(Retrieval-Augmented Generation, RAG)的任務拆解:嵌入、向量庫、組 prompt、再問模型。示範原生 API,並提到 Open WebUI 等現成工具。對應 Open WebUI 的文件問答,而不是要你立刻自幹一套。