A4.4 機器學習倫理
機器學習倫理（Ethical considerations）探討開發與使用 AI 時，對個人與社會可能造成的影響，包括偏誤與公平性、隱私、透明度、責任歸屬、就業、著作權與環境成本。IB 考題常要求「評估（evaluate）」某個 AI 應用，這時必須同時寫出好處、風險與緩解方法，再下結論。
AI 為什麼會有偏誤？
演算法偏誤（algorithmic bias） 指模型對某些群體系統性地不公平。主要來源：
- 訓練資料偏誤：資料本身反映過去的不公平。例如過去公司多錄取男性，用這些資料訓練的履歷篩選模型會學到偏好男性。
- 樣本不具代表性：人臉辨識的訓練照片以淺膚色為主，對深膚色族群準確率較低。
- 特徵選擇偏誤：郵遞區號看似中立，但可能與種族或收入高度相關，成為間接歧視的代理變數（proxy）。
緩解方法：檢查資料的代表性、針對不同群體分別評估準確率、移除或調整代理變數、讓多元背景的團隊參與開發與審查。
隱私與資料保護
- AI 需要大量資料，可能在使用者不知情下收集個人資料。
- 模型可能從看似匿名的資料中推斷出敏感資訊（健康狀況、性向）。
- 各地有資料保護法規，例如歐盟的一般資料保護規則（General Data Protection Regulation, GDPR），要求告知、同意與刪除權。
緩解方法：資料最小化（只收集必要資料）、匿名化、加密儲存、取得明確同意。
透明度與可解釋性
深度學習模型常被稱為 黑箱（black box）：連開發者也難以說明模型為何做出某個判斷。在醫療、司法、貸款等高風險決策中，被影響的人有權知道理由。可解釋 AI（Explainable AI, XAI） 致力於讓模型的決策可以被理解與檢驗。
出錯時誰負責？
自駕車發生事故、AI 醫療診斷錯誤時，責任應歸屬開發者、使用者、資料提供者還是製造商？目前法律仍在發展中。常見原則是保留 人在迴路中（human-in-the-loop）：重大決策由 AI 提供建議，最後由人確認並負責。
生成式 AI 帶來哪些新問題？
- 著作權：訓練資料是否取得創作者授權？AI 生成作品的著作權歸誰？
- 深偽（deepfake）與假訊息：逼真的假影像、假聲音可能被用於詐騙或操弄輿論。
- 創作者生計：插畫、配音等工作可能受到衝擊。
- 緩解方法：標示 AI 生成內容（浮水印）、取得授權或使用授權資料集、建立內容來源驗證機制。
就業與環境成本
- 就業：重複性工作容易被自動化，但也產生新工作（資料標註、AI 維運）。社會需要再培訓機制。
- 環境：訓練大型模型耗費大量電力與冷卻用水，產生碳排放。可使用較小的模型、再生能源資料中心、重複利用預訓練模型。
如何回答「Evaluate」倫理題？
建議用四段式結構：
- 說明應用：這個 AI 做什麼、誰受影響。
- 好處：效率、準確度、可及性。
- 風險：偏誤、隱私、透明度、責任等，並具體連結到情境。
- 緩解與結論：提出具體措施，最後明確判斷「在什麼條件下可以使用」。
推薦影音
電腦視覺
簡述：Crash Course 介紹電腦如何辨識影像中的物體與人臉，影片後段提到人臉辨識的應用，可延伸討論隱私與偏誤問題。
練習題
練習 1：辨認偏誤來源
一個人臉辨識門禁系統對某些膚色的使用者經常辨識失敗。最可能的原因是什麼？如何改善？
參考答案
訓練資料中該膚色族群的照片太少，樣本不具代表性。改善：補充多元族群的訓練資料，並針對每個族群分別測試準確率，確保差距在可接受範圍內；同時提供刷卡等替代方案。
練習 2：Evaluate 題
Evaluate 學校使用 AI 自動批改學生作文的做法。
參考答案
應用：AI 依評分規準給作文打分並提供回饋。好處：老師節省時間、學生立即得到回饋、評分標準一致。風險：模型可能偏好特定寫作風格或母語者的用語（偏誤）；學生作文被上傳到外部服務（隱私）；學生不知道為何被扣分（透明度）。緩解：只用於初步回饋，正式成績由老師確認（人在迴路中）；選擇資料不外流的方案；定期比對 AI 與老師評分的差異。結論：在有人工覆核與隱私保護的前提下，可作為輔助工具，不宜單獨決定成績。
練習 3：生成式 AI
說明 AI 圖像生成工具可能引發的兩個倫理問題，並各提出一個緩解方法。
參考答案
(1) 著作權：訓練資料可能未經藝術家同意 → 使用已授權資料集，並讓創作者可以選擇退出。(2) 深偽與假訊息：可被用來製作假新聞照片 → 對 AI 生成圖片加上浮水印或內容來源標記。