相關與迴歸
相關(correlation)衡量兩個變數「一起變化」的程度,迴歸(regression)則找出一條描述兩者關係的直線或曲線,用來預測。例如:讀書時數越多,考試分數是否越高?每多讀一小時大約多幾分?本頁涵蓋 SL 與 HL 共同的 Pearson 相關係數、迴歸直線與 Spearman 等級相關(課綱 4.4、4.10),以及 HL 的非線性迴歸與決定係數 \(R^2\)(AHL 4.13)。
散佈圖與相關的方向
把成對資料 \((x, y)\) 畫在座標平面上就是散佈圖(scatter diagram)。觀察三件事:
- 方向:正相關(\(x\) 大 \(y\) 也大)或負相關。
- 強度:點是否緊密地落在一條線附近。
- 形狀:線性或非線性;有沒有離群值。
目測最適直線一定要通過平均點 \((\bar{x}, \bar{y})\)。
相關不等於因果
兩個變數高度相關,不代表一個造成另一個。冰淇淋銷量與溺水人數正相關,是因為兩者都受「天氣熱」影響。
Pearson 相關係數 \(r\)
Pearson 積差相關係數(product-moment correlation coefficient)\(r\) 衡量線性關係的強度,\(-1 \le r \le 1\):
| \(\lvert r \rvert\) 範圍 | 解讀 |
|---|---|
| \(0.75 \le \lvert r \rvert \le 1\) | 強相關 |
| \(0.5 \le \lvert r \rvert < 0.75\) | 中度相關 |
| \(0.25 \le \lvert r \rvert < 0.5\) | 弱相關 |
| \(\lvert r \rvert < 0.25\) | 幾乎無線性相關 |
\(r\) 用 GDC 的 LinReg 計算(TI-84 要先開啟 DiagnosticOn 才會顯示 \(r\))。
迴歸直線
\(y\) 對 \(x\) 的最小平方迴歸直線(least squares regression line)\(y = ax + b\),用 GDC 的 LinReg(ax+b) 求出。
- 斜率 \(a\) 的意義:\(x\) 每增加 1 單位,\(y\) 平均增加 \(a\) 單位。
- 用迴歸直線預測:只在 \(|r|\) 夠大、且 \(x\) 在資料範圍內(內插,interpolation)時才可靠;資料範圍外的預測(外插,extrapolation)不可靠。
- 方向不能反過來:\(y\) 對 \(x\) 的迴歸直線只能用 \(x\) 預測 \(y\)。要用 \(y\) 預測 \(x\),需另外求 \(x\) 對 \(y\) 的迴歸直線。
Spearman 等級相關係數 \(r_s\)
Spearman 等級相關係數(Spearman's rank correlation coefficient)先把兩個變數各自排名,再對排名計算 Pearson 相關係數。它衡量的是單調關係(一個變大另一個也一直變大或變小),不要求是直線。
- 適用:資料本身就是排名(例如評審名次)、關係非線性但單調、或有離群值。
- 相同數值取平均名次,例如並列第 2、3 名都記 \(2.5\)。
- 沒有並列時可用 \(r_s = 1 - \dfrac{6\sum d^2}{n(n^2 - 1)}\) 驗算,\(d\) 為兩個名次之差。
非線性迴歸與決定係數
當散佈圖呈現曲線時,可以用 GDC 擬合非線性模型:二次(QuadReg)、三次(CubicReg)、指數(ExpReg)、冪次(PwrReg)、正弦(SinReg)。
殘差平方和(sum of square residuals, \(SS_{res}\)):每個資料點與模型預測值之差(殘差)的平方總和。最小平方法就是找讓 \(SS_{res}\) 最小的參數。
決定係數 \(R^2\)(coefficient of determination):模型能解釋 \(y\) 變異的比例,\(0 \le R^2 \le 1\),越接近 1 越好。比較不同模型時,\(R^2\) 較大者通常擬合較好,但也要考慮模型在情境中是否合理。對線性模型而言,\(R^2 = r^2\)。
推薦影音
Pearson 與 Spearman 相關係數
簡述:Revision Village 比較兩種相關係數的計算與適用時機,並示範 GDC 操作與解讀,對應本頁前半部。
迴歸直線與可靠度
簡述:Revision Village 講解迴歸直線方程式的求法、何時預測可靠(內插與外插),對應本頁「迴歸直線」。
練習題
練習 1
6 位同學的讀書時數 \(x\) 與考試分數 \(y\):
| \(x\)(小時) | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| \(y\)(分) | 52 | 55 | 61 | 64 | 70 | 74 |
(a) 求 Pearson 相關係數 \(r\) 並解讀。 (b) 求 \(y\) 對 \(x\) 的迴歸直線。 (c) 預測讀書 \(4.5\) 小時的分數,並說明此預測是否可靠。 (d) 解釋斜率在情境中的意義。
參考解答
(a) GDC 得 \(r \approx 0.996\),強烈正線性相關。
(b) \(y \approx 4.51x + 46.9\)。
(c) \(y \approx 4.51(4.5) + 46.9 \approx 67.2\) 分。可靠,因為 \(r\) 很接近 1,且 \(4.5\) 在資料範圍 \(1 \sim 6\) 之內(內插)。
(d) 每多讀 1 小時,分數平均約增加 \(4.51\) 分。
練習 2
用練習 1 的迴歸直線預測讀書 \(20\) 小時的分數,這個預測有什麼問題?
參考解答
\(4.51(20) + 46.9 \approx 137\) 分,超過滿分 100。\(20\) 小時遠在資料範圍外(外插),線性關係不一定持續成立,所以預測不可靠。
練習 3
兩位評審為 6 件作品評分:
| 作品 | A | B | C | D | E | F |
|---|---|---|---|---|---|---|
| 評審甲 | 7 | 4 | 9 | 2 | 6 | 8 |
| 評審乙 | 65 | 50 | 80 | 45 | 70 | 60 |
求 Spearman 等級相關係數並解讀。
參考解答
由小到大排名:
| 作品 | A | B | C | D | E | F |
|---|---|---|---|---|---|---|
| 甲名次 | 4 | 2 | 6 | 1 | 3 | 5 |
| 乙名次 | 4 | 2 | 6 | 1 | 5 | 3 |
| \(d^2\) | 0 | 0 | 0 | 0 | 4 | 4 |
\(r_s = 1 - \dfrac{6 \times 8}{6 \times 35} \approx 0.771\)。兩位評審的排名有強烈的正相關,看法大致一致。
練習 4
資料點 \((1, 2)\)、\((2, 3)\)、\((3, 5)\) 的迴歸直線為 \(y = 1.5x + \frac{1}{3}\)。求殘差平方和 \(SS_{res}\)。
參考解答
預測值:\(1.833\)、\(3.333\)、\(4.833\);殘差:\(0.167\)、\(-0.333\)、\(0.167\)。
\(SS_{res} = 0.167^2 + 0.333^2 + 0.167^2 \approx 0.167\)。
練習 5
某組資料以線性模型擬合得 \(R^2 = 0.89\),以指數模型擬合得 \(R^2 = 0.97\)。應選哪個模型?還需要考慮什麼?
參考解答
指數模型的 \(R^2\) 較大,能解釋 97% 的變異,擬合較好。但仍要檢查模型在情境中是否合理(例如是否會無限成長)、殘差是否沒有明顯規律,以及預測是否在資料範圍內。