威威學長|高一數據分析系列
📚 系列總覽:數據分析系列地圖|➡️ 下一篇:最小平方法為什麼是「垂直距離平方和最小」
課本寫下 $r=\dfrac{\sum(x_i-\bar x)(y_i-\bar y)}{\sqrt{\sum(x_i-\bar x)^2}\sqrt{\sum(y_i-\bar y)^2}}$,然後就開始算例題了。於是有同學舉手問我:「學長,分母那兩坨根號到底是來幹嘛的?為什麼分子分母長得這麼像?而且算完一定卡在 $-1$ 跟 $1$ 之間,這是誰規定的?」😎
這三個問題,今天一次講清楚。聽完你會發現這條公式根本不用背,你自己就寫得出來。
一、散佈圖只能「看」,不能「算」
兩個變數放在一起,第一步當然是畫散佈圖。點從左下往右上爬,我們說「正相關」;從左上往右下溜,叫「負相關」;散得像一盤倒出來的彈珠,就是「沒什麼關係」。
問題來了。眼睛看能得到結論,但眼睛不能幫你回答這幾個問題:
- 甲班和乙班的散佈圖都往右上爬,哪一班爬得比較「緊」?
- 這次段考的成績 vs 上次段考,到底是「有進步」還是「運氣好」?
- 兩支廣告哪一支跟銷售量綁得比較死?
這些都需要一個數字。而 $r$ 這個數字要做的,就是把「這團點散得有沒有方向、有多緊」壓縮進一個實數裡。
聽起來很貪心對吧?一團亂七八糟的點,憑什麼一個數字講得完。它當然講不完。這正是後面「三個陷阱」那節要講的事。
二、直覺:X 大的時候,Y 是不是也傾向變大?
先把每一筆資料扣掉自己的平均:
$$x_i-\bar x,\qquad y_i-\bar y$$
這叫做離均差。它的意思是「這個人比全班平均多多少」。
現在看乘積 $(x_i-\bar x)(y_i-\bar y)$:
- 讀書時數高於平均($x_i-\bar x>0$),成績也高於平均($y_i-\bar y>0$)→ 正乘正,得正
- 兩個都低於平均 → 負乘負,還是得正
- 一個高一個低 → 正負相消,得負
所以這個乘積在說一句很白話的話:「這個人的 X 和 Y,是不是手牽手一起跑?」
把所有乘積加起來平均:
$$\mathrm{Cov}(X,Y)=\frac{1}{n}\sum(x_i-\bar x)(y_i-\bar y)$$
這就是共變異數。它為正代表整體同向,為負代表整體反向,接近 $0$ 代表兩邊的「牽手」互相抵消了。
👑 學長的口訣:離均差相乘,就是「你跟平均的距離」乘上「我跟平均的距離」。同向得正、反向得負,加起來看總帳。
三、共變異數的致命傷:它帶單位
拿一組真的數字來試。假設是 5 位同學每天讀書時數 $x$ 和數學成績 $y$:
| 同學 | 讀書時數 $x$ | 成績 $y$ |
|---|---|---|
| A | 1 | 60 |
| B | 2 | 55 |
| C | 3 | 75 |
| D | 4 | 70 |
| E | 5 | 90 |
$\bar x=3$,$\bar y=70$。算出來的共變異數是 $15$。這個 $15$ 的單位是什麼?
「小時 × 分」。你有聽過這種單位嗎?沒有。而且更麻煩的是,如果我今天把「小時」改成「分鐘」,同一個資料集算出來的共變異數會直接變成 $900$,放大 $60$ 倍。
同一批學生、同一批成績,只因為換了單位,關係的「強度」就跳了 60 倍。這種數字不能拿去比較。
解法:先把兩邊都標準化
除以各自的標準差就好了。定義
$$Z_x=\frac{x-\bar x}{S_x},\qquad Z_y=\frac{y-\bar y}{S_y}$$
$S_x$ 是 X 的標準差,它的單位跟 X 一樣(小時)。所以 $Z_x$ 是「小時除以小時」,單位被約掉了。$Z_y$ 也一樣。
$Z$ 這個數字的意義很具體:「我離平均幾個標準差」。而且不管原本的資料是公分還是公尺、是分還是元,$Z$ 的尺都一樣長。
把共變異數改用 $Z$ 來算,就得到皮爾森積差相關係數:
$$\boxed{\;r=\frac{1}{n}\sum Z_{x,i}Z_{y,i}=\frac{\sum(x_i-\bar x)(y_i-\bar y)}{\sqrt{\sum(x_i-\bar x)^2}\sqrt{\sum(y_i-\bar y)^2}}\;}$$
分子分母的 $\frac{1}{n}$ 互約,就變成課本那條式子。現在你知道為什麼分子分母長得像了吧。它們本來就是同一套東西,只是一個負責「方向」一個負責「長度」。
👑 黃金公式: $r=\dfrac{\mathrm{Cov}(X,Y)}{S_X\cdot S_Y}$。一句話:共變異數,除以兩邊的標準差。
四、為什麼 $r$ 一定卡在 $-1$ 到 $1$ 之間
證明不難,一行就結束。對任何實數 $t$,$\sum(t\cdot d x_i-d y_i)^2\ge 0$(平方和不可能負)。展開:
$$t^2\sum dx_i^2-2t\sum dx_i\,dy_i+\sum dy_i^2\ge 0$$
這是一個開口朝上的 $t$ 二次式,它永遠非負,代表判別式 $\le 0$:
$$4\left(\sum dx_i\,dy_i\right)^2-4\left(\sum dx_i^2\right)\left(\sum dy_i^2\right)\le 0$$
移項開根號就是柯西—施瓦茨不等式
$$\left|\sum dx_i\,dy_i\right|\le\sqrt{\sum dx_i^2}\sqrt{\sum dy_i^2}\ \Longrightarrow\ |r|\le 1$$
這條不等式之所以成立,是因為「平方和不能是負的」。就這麼簡單。
👑 學長的口訣:$r$ 是被「平方和不為負」逼出來的。
而且等號什麼時候成立?當 $\sum(t\,dx_i-dy_i)^2=0$,也就是每一筆資料都滿足 $dy_i=t\cdot dx_i$,所有點完美落在一條直線上。所以 $r=\pm1$ 只發生在資料完美共線的時候。
五、手算一遍(這題請拿筆跟著算)
回到剛剛那 5 位同學。先把表格補齊:
| 同學 | $x_i$ | $y_i$ | $x_i-\bar x$ | $y_i-\bar y$ | $(x_i-\bar x)^2$ | $(y_i-\bar y)^2$ | $(x_i-\bar x)(y_i-\bar y)$ |
|---|---|---|---|---|---|---|---|
| A | 1 | 60 | $-2$ | $-10$ | 4 | 100 | $20$ |
| B | 2 | 55 | $-1$ | $-15$ | 1 | 225 | $15$ |
| C | 3 | 75 | $0$ | $5$ | 0 | 25 | $0$ |
| D | 4 | 70 | $1$ | $0$ | 1 | 0 | $0$ |
| E | 5 | 90 | $2$ | $20$ | 4 | 400 | $40$ |
| 合計 | 15 | 350 | 0 | 0 | 10 | 750 | 75 |
先檢查兩件事:離均差的和一定要是 $0$($-2-1+0+1+2=0$ ✓,$-10-15+5+0+20=0$ ✓)。如果沒歸零,是你算錯,不是資料的問題。
代入公式:
$$r=\frac{75}{\sqrt{10}\cdot\sqrt{750}}=\frac{75}{\sqrt{7500}}=\frac{75}{50\sqrt3}=\frac{1.5}{\sqrt3}=\frac{\sqrt3}{2}\approx0.866$$
驗算一下,走另一條路:
- $S_x=\sqrt{10/5}=\sqrt2$(小時)
- $S_y=\sqrt{750/5}=\sqrt{150}=5\sqrt6$(分)
- $\mathrm{Cov}(X,Y)=75/5=15$(小時·分)
$$r=\frac{15}{\sqrt2\times5\sqrt6}=\frac{15}{5\sqrt{12}}=\frac{3}{2\sqrt3}=\frac{\sqrt3}{2}\ \checkmark$$
兩條路撞在同一個答案上。$r\approx0.866$,這是個滿強的正相關,讀書時數越多,成績傾向越高。
再測一件事。把 X 從「小時」換成「分鐘」(乘 60):分子 $75$ 變成 $4500$,分母 $\sqrt{10\times3600}\sqrt{750}$ 變成 $\sqrt{27\,000\,000}$。算算看 $\dfrac{4500}{\sqrt{27\,000\,000}}=0.866$。一模一樣。單位換來換去,$r$ 動都不動,這就是第三節講的事情。
六、怎麼讀一個 $r$ 值
拿到 $r$ 先看正負號,再看絕對值。
正負號 = 方向。 $r>0$:X 大,Y 傾向也大。$r<0$:X 大,Y 傾向變小。
絕對值 = 緊不緊。 課本很愛給一個粗略的尺:
| $\lvert r\rvert$ | 大概的意思 |
|---|---|
| $0\sim0.3$ | 幾乎看不出線性關係 |
| $0.3\sim0.7$ | 中度的線性關係 |
| $0.7\sim1$ | 明顯的線性關係 |
⚠️ 學長的警告:這把尺是「參考用」,不是法規。物理實驗做到 $r=0.95$ 可能已經算爛了,社會科學問卷跑出 $0.4$ 就有人在歡呼。變數本身雜訊多不多、測量精不精準,都會改變「什麼叫高」的標準。真正該看的是相對比較:同一批研究裡,誰的 $r$ 比較大。
還有一個常被忽略的換算是 $r^2$。$r=0.866$ 的時候 $r^2=0.75$,意思是「Y 的變動裡,有 75% 可以用 X 來解釋」。這句話在簡單線性迴歸裡會變成 $R^2$,下一篇講最適直線時會再遇到。
七、三個一定要知道的陷阱
陷阱① 它只看「線性」
拿這組資料:$x=-3,-2,-1,0,1,2,3$,$y=x^2$,也就是 $9,4,1,0,1,4,9$。
$\bar x=0$,$\bar y=4$。離均差 $dx$ 是 $-3,-2,-1,0,1,2,3$;$dy$ 是 $5,0,-3,-4,-3,0,5$。
乘積相加:$(-15)+0+3+0+(-3)+0+15=0$。所以
$$r=\frac{0}{\sqrt{28}\sqrt{84}}=0$$
$r=0$。但這兩個變數的關係有夠明顯,是完美的拋物線,$y$ 完全被 $x$ 決定。
為什麼會這樣?因為拋物線是左右對稱的。左半邊 X 小的時候 Y 大(負相關),右半邊 X 大的時候 Y 也大(正相關),兩邊的正負帳剛好打平。
⚠️ 學長的警告:$r=0$ 只能說「沒有線性關係」,不能說「沒關係」。看到 $r\approx0$ 就下結論「兩者無關」的,是統計初學者最常被扣分的地方。先畫圖,再相信數字。
陷阱② 對離群值極度敏感
回到第五節那組資料。現在只改一個數字:把 E 同學的成績從 90 分改成 30 分。
新的離均差:$dy$ 變成 $2,-3,17,12,-28$。乘積和:
$$(-2)(2)+(-1)(-3)+0+(1)(12)+(2)(-28)=-4+3+0+12-56=-45$$
$dy$ 平方和變成 $4+9+289+144+784=1230$,$dx$ 平方和還是 $10$。
$$r=\frac{-45}{\sqrt{10}\sqrt{1230}}=\frac{-45}{10\sqrt{123}}\approx-0.406$$
一個人的成績變了,$r$ 從 $+0.866$ 直接翻到 $-0.406$。 方向從正變負,強度也掉了一大截。
原因就在公式裡。每筆資料都是乘積、都是平方。一筆長得特別遠的點,它的離均差會被平方放大,牽引力遠超過其他點。所以拿到任何相關係數,第一件事永遠是:看散佈圖上有沒有怪點。
陷阱③ $r=0$ 不代表獨立,相關也不代表因果
冰淇淋銷量和溺水人數,相關係數可以高到 $0.8$ 以上。難道是吃冰淇淋害人溺水?
不是。真正的原因是夏天:氣溫一高,買冰的人多,下水游泳的人也多。冰淇淋只是個無辜的旁觀者。
這種躲在後面同時推動兩個變數的東西,叫做混淆變數(lurking variable)。看到高相關就想寫因果結論的時候,先問自己一句:有沒有第三個東西,同時讓這兩件事變多?
⚠️ 學長的警告:相關係數只能證明「一起動」,不能證明「誰害誰」。這句話會一路陪你到大學,考試很愛考,人生更愛考。
🌰 範例解析
範例 1:某研究調查 10 位同學的「每週運動次數」$x$ 與「肺活量」$y$,已知
$$\bar x=4,\quad \bar y=30,\quad \sum(x_i-\bar x)^2=90,\quad \sum(y_i-\bar y)^2=250,\quad \sum(x_i-\bar x)(y_i-\bar y)=120$$
求相關係數 $r$。
學長邏輯:看到題目給的是「離均差的平方和」和「離均差的乘積和」,這根本是把公式拆開送給你,直接塞進去就好,不用還原原始資料。
$$r=\frac{120}{\sqrt{90}\cdot\sqrt{250}}=\frac{120}{\sqrt{22\,500}}=\frac{120}{150}=0.8$$
平方和乘起來剛好是完全平方數 $150^2$,出題老師是佛心的。$r=0.8$ 是明顯正相關,$r^2=0.64$ 表示肺活量的變動裡有 64% 可以由運動次數解釋。
範例 2:某組資料算出的相關係數是 $r=-0.9$。現在把每一筆 $x$ 都乘以 $2$ 再加 $100$,每一筆 $y$ 都取負號。新的相關係數是多少?
學長邏輯:別急著找資料,先想公式裡每個零件會怎麼變。
$x\to2x+100$:離均差變成 $2(x_i-\bar x)$。分子分母的 $2$ 全部約掉,$r$ 不變。加 $100$ 是平移,離均差完全不動,更不影響。
$y\to-y$:離均差變成 $-(y_i-\bar y)$,平方後照樣約掉,但乘積那項多了一個負號。
所以新的 $r=+0.9$。結論:對 $x$、$y$ 做「正的線性變換」($px+q$,$p>0$),$r$ 完全不動;$p<0$ 則 $r$ 變號。
範例 3:承第七節陷阱②,那組 $x=1,2,3,4,5$、$y=60,55,75,70,30$ 的資料,已知 $\sum(x_i-\bar x)^2=10$、$\sum(x_i-\bar x)(y_i-\bar y)=-45$、$\sum(y_i-\bar y)^2=1230$、$\bar x=3$、$\bar y=58$。求最適直線的斜率 $a$,並說明它和 $r$ 的關係。
學長邏輯:這題先偷跑一點下一篇的內容。斜率公式是
$$a=\frac{\sum(x_i-\bar x)(y_i-\bar y)}{\sum(x_i-\bar x)^2}=\frac{-45}{10}=-4.5$$
再算 $r$:$r=\dfrac{-45}{\sqrt{10}\cdot\sqrt{1230}}\approx-0.406$。檢查一下關係式 $a=r\cdot\dfrac{S_y}{S_x}$:
$$S_x=\sqrt{\frac{10}{5}}=\sqrt2,\qquad S_y=\sqrt{\frac{1230}{5}}=\sqrt{246},\qquad r\cdot\frac{S_y}{S_x}=-0.406\times\frac{\sqrt{246}}{\sqrt2}=-0.406\times11.09\approx-4.5\ \checkmark$$
兩個算法對上了。「$a$ 帶單位、$r$ 不帶單位」。$a=-4.5$ 的意思是「每多讀一小時,成績少 4.5 分」(聽起來很荒謬,因為那筆 30 分的離群值把整條線往下拉),而 $r=-0.406$ 講的是純粹的「方向感」,不受單位影響。
🔍 即時小測
1. 已知 $S_x=3$、$S_y=5$、$\mathrm{Cov}(X,Y)=12$,求 $r$。
2. 把範例 1 的 X 單位從「次」改成「十次」(每個 $x$ 除以 10),$r$ 會變成多少?
3. 承第 1 題,$r^2$ 是多少?用一句話說出它的意義。
4. 某組資料 $r=-0.95$。甲生說:「這代表 X 越大 Y 越小,而且關係很強。」乙生說:「這代表 X 會讓 Y 變小。」誰說得對?
5. 7 筆資料 $(-3,9),(-2,4),(-1,1),(0,0),(1,1),(2,4),(3,9)$,求 $r$。所以 $x$ 與 $y$ 沒有關係,對嗎?
6. 「冰淇淋銷量」與「溺水人數」相關係數 $0.85$。記者下標題「吃冰提高溺水風險」。請指出這個推論的漏洞。
📖 詳解:
1. $r=\dfrac{\mathrm{Cov}(X,Y)}{S_xS_y}=\dfrac{12}{3\times5}=\dfrac{12}{15}=0.8$。
2. 除以 10 是「乘上 $0.1$」的正向線性變換,離均差全部縮小 10 倍,分子分母一起縮,約掉。$r$ 還是 $0.8$。
3. $r^2=0.64$。意義:Y 的變異量裡,有 64% 可以用 X 的線性關係解釋掉;剩下 36% 是 X 講不出來的事。
4. 甲對,乙錯。$r=-0.95$ 講的是「方向 + 強度」,$|r|$ 逼近 1 代表點快貼在某一條斜率為負的直線上。但「相關」不等於「因果」,乙把「一起動」講成「害的」,這是跳躍。
5. $\bar x=0$、$\bar y=4$。$dx$ 是 $-3,-2,-1,0,1,2,3$;$dy$ 是 $5,0,-3,-4,-3,0,5$。乘積和 $=-15+0+3+0-3+0+15=0$,所以 $r=0$。($\sum dx^2=28$、$\sum dy^2=84$ 只是為了確認分母不是 0。)
但「沒有關係」是錯的。畫出來是開口朝上的完美拋物線,$y$ 完全被 $x$ 決定。$r=0$ 只否定了「線性」,沒有否定「關係」。
6. 漏洞是混淆變數。氣溫高的夏天,買冰的人多、下水游泳的人也多,兩個數字一起飆高,但它們之間沒有誰害誰。要把「相關」升級成「因果」,得做控制實驗,或至少把氣溫這個變數扣掉再看。
卡在哪一題嗎?丟給我看看,通常十分鐘內就能找到你的破口在哪。