最小平方迴歸
最小平方迴歸直線（least-squares regression line, LSRL）是讓所有殘差平方和最小的直線，用解釋變數 \(x\) 預測反應變數 \(y\)。AP Statistics 要你會計算預測值與殘差、在情境中解釋斜率與截距、用殘差圖判斷線性模型是否適當，並解釋決定係數 \(r^2\)。本頁對應新版 Topic 5.3–5.5。
迴歸直線與預測值
- \(\hat{y}\)（讀作 y-hat）：預測的反應值，不是實際值。
- \(b\)：斜率（slope）；\(a\)：y 截距（y-intercept）。
範例：用讀書時數 \(x\)（小時）預測考試分數 \(y\)，得到 \(\hat{y} = 52.3 + 4.1x\)。讀 6 小時的學生，預測分數為 \(\hat{y} = 52.3 + 4.1(6) = 76.9\) 分。
斜率與截距怎麼解釋？
| 要解釋的 | 標準寫法 |
|---|---|
| 斜率 \(b = 4.1\) | 讀書時數每增加 1 小時，預測的考試分數增加 4.1 分。 |
| 截距 \(a = 52.3\) | 讀書時數為 0 小時時，預測的考試分數為 52.3 分。 |
一定要寫「預測的（predicted）」，因為迴歸直線描述的是趨勢，不是每個學生的真實分數。如果 \(x = 0\) 不在資料範圍內，截距在情境中可能沒有實際意義。
外插有什麼風險？
- 內插（interpolation）：用資料範圍內的 \(x\) 做預測。
- 外插（extrapolation）：用資料範圍外的 \(x\) 做預測。外插越遠越不可靠，因為我們不知道關係在範圍外是否仍是線性。例如用讀 1–10 小時的資料，預測讀 30 小時會考 175.3 分，顯然不合理。
殘差是什麼？
殘差（residual）是實際值與預測值的差：
- 殘差 > 0：實際值高於預測值，點在直線上方（模型低估）。
- 殘差 < 0：實際值低於預測值，點在直線下方（模型高估）。
範例：讀 6 小時的學生實際考 81 分，殘差 = \(81 - 76.9 = 4.1\)。解釋：「這位學生的實際分數比迴歸直線的預測高 4.1 分。」
怎麼用殘差圖判斷線性模型？
殘差圖（residual plot）把殘差畫在 y 軸、\(x\)（或 \(\hat{y}\)）畫在 x 軸：
| 殘差圖的樣子 | 結論 |
|---|---|
| 點在 0 上下隨機散布，沒有明顯模式 | 線性模型適當 |
| 呈現彎曲模式（例如 U 形） | 關係是非線性的，線性模型不適當 |
| 點的分散程度隨 \(x\) 增加而變大（扇形） | 預測的精確度在不同 \(x\) 範圍不一致 |
最小平方迴歸直線的公式
這兩個公式帶出三個重要性質：
- 迴歸直線一定通過 \((\bar{x}, \bar{y})\)。
- 斜率和 \(r\) 同號。
- \(x\) 每增加一個標準差，預測的 \(y\) 增加 \(r\) 個標準差。
最小平方的意思是：在所有可能的直線中，這條直線讓殘差平方和 \(\sum (y - \hat{y})^2\) 最小。
決定係數 \(r^2\) 怎麼解釋？
決定係數（coefficient of determination）\(r^2\) 是 \(y\) 的變異中，能被與 \(x\) 的線性關係解釋的比例。若 \(r = 0.8\)，則 \(r^2 = 0.64\)：
考試分數的變異中，約有 64% 可以用與讀書時數的線性關係來解釋。
\(r^2\) 越接近 1，迴歸直線的預測越準；但和 \(r\) 一樣，\(r^2\) 高不代表線性模型就適當，仍要看殘差圖。
推薦影音
殘差與最小平方迴歸入門
簡述：Khan Academy 說明殘差的定義，以及「最小平方」為什麼是選擇迴歸直線的標準。
殘差圖
簡述：Khan Academy 示範如何畫出與判讀殘差圖，以及殘差圖出現模式時代表什麼。
線性迴歸模型解說
簡述：Michael Porinchak 解說迴歸直線、斜率與截距的解釋方式，以及考試常見的寫法要求。
R 平方（決定係數）
簡述：Khan Academy 從殘差平方和推導 \(r^2\)，說明它為什麼代表「被解釋的變異比例」。