L21203 AI 風險管理
2風險識別與法規合規
（1）風險類型識別三層 + （2）法規合規性評估
2.1三層風險總覽（技術／組織／法規）
| 層 | 子風險 | 常見問題 |
|---|---|---|
| A 技術層 | 資料品質風險 / 模型穩定性風險 | 缺失、偏頗、標註錯誤、漂移、過擬合、概念漂移 |
| B 組織人力層 | 跨部門溝通 / 技能短缺 / 變革抵制 | 資訊不透明、人才流動、員工怕被取代 |
| C 法規層 | 個資與隱私 / 產業特定監管 / 侵權 | 未經同意、未符合 HIPAA/PCI-DSS、未授權第三方資料 |
2.2A. 技術層 — 資料品質風險 四常見問題
| 問題／英文 | 定義 |
|---|---|
| ① 資料遺漏 Missing Data | 資料集中缺少某些預期的資料值，可能由於輸入錯誤、資料丟失或未收集；影響模型訓練和預測準確性 |
| ② 資料偏頗 Data Bias | 資料集中樣本分佈不均，某些類別或特徵過多或過少；導致對特定群體或情境預測不準確或不公平 |
| ③ 不正確標註 Incorrect Labeling | 人工或機器標註錯誤，樣本被錯誤分類或標記；直接影響模型學習和預測結果，準確性降低 |
| ④ 資料漂移 Data Drift | 模型運行過程中，輸入資料的分佈發生變化，預測結果逐漸偏離原有準確度 |
2.3A. 技術層 — 模型穩定性風險 三類
| 問題／英文 | 定義 | 對策方向 |
|---|---|---|
| 模型漂移 Model Drift | 模型的預測準確度隨時間變差，通常由於訓練資料或環境變化，使模型無法適應新的資料模式 | 持續監控 + 再訓練 |
| 過擬合 Overfitting | 在訓練資料上表現很好，但對未見過的測試資料無法正確預測；過度學習噪聲與細節、缺乏泛化能力 | 交叉驗證、正則化 |
| 概念漂移 Concept Drift | 資料背後的潛在關係或模式隨時間改變，導致模型預測不再準確；常見於長期運行的模型，隨外部條件變動而資料模式發生變化 | 監控 + 自動觸發再訓練 |
2.4B. 組織人力層 三類風險
| 風險／英文 | 常見問題 | 教材影響案例 |
|---|---|---|
| 跨部門溝通風險 Cross-functional Communication Risk | 資訊不透明、溝通管道不足、角色責任不清 | 金融機構風控部門與 IT 部門溝通不足，模型與業務需求脫節，專案無法落地 |
| 技能短缺風險 Skill Gap Risk | 技能落差、人才流動過快 | 公共服務機構導入智慧城市，內部缺資料分析與模型維護人員，系統無法有效運作 |
| 變革抵制風險 Change Resistance Risk | 內部文化抗拒、員工配合度低 | 醫療院所推動 AI 輔助診斷，醫療人員擔憂被取代，系統使用率低落 |
2.5C. 法規層 三類風險
| 風險 | 說明 | 教材影響案例 |
|---|---|---|
| 個資與隱私保護 | 未遵守 GDPR / 台灣個資法等資料保護法規，將面臨法律處罰與名譽損害 | 科技公司因未充分揭露使用者資料用途，遭 GDPR 高額罰款 |
| 產業特定監管法規 | 醫療 HIPAA、金融 PCI-DSS 等產業專用法規未符合，營運中斷或法律責任 | 銀行導入 AI 客戶辨識系統未完整符合法規 → 營運暫停並受罰款 |
| 侵權風險（Infringement） | 未授權使用第三方資料、演算法抄襲、未遵守開源授權條款 | 未授權第三方訓練資料 → 侵犯版權 → 巨額賠償與訴訟成本 |
2.6GDPR 七大資料主體權利
| 權利／英文 | GDPR 條號 | 實質內容 |
|---|---|---|
| 刪除權／遺忘權 Right to Erasure | 第 17 條 | 資料不再需要或處理違反規定時可要求刪除；法律保留／公共利益除外 |
| 修正權 Right to Rectification | 第 16 條 | 資料錯誤或不完整時可要求修正 |
| 資料可攜權 Data Portability | 第 20 條 | 以結構化、通用且可機器讀取格式取得個資並轉移 |
| 反對自動化決策權 Right to Object to ADM | 第 22 條 | 反對無人工介入的重大自動化決策，要求人工審核（信用評分、招聘） |
| 查閱權 Right of Access | 第 15 條 | 了解資料處理的目的、類型、保存期限；企業需在 30 日內回覆 |
| 處理限制權 Right to Restriction | 第 18 條 | 資料正確性有爭議或處理違法但不希望刪除時，可要求暫停處理 |
| 同意原則 Consent | 第 6 條 | 處理必須基於明確、自由給予的同意，且可隨時撤回（不影響撤回前合法性） |
2.7GDPR 三大企業義務原則 + DPIA
| 原則／英文 | GDPR 條號 | 實質內容 |
|---|---|---|
| 資料最小化 Data Minimization | 第 5 條 | 只收集為達成處理目的所必須的資料，不超過最初聲明用途 |
| 問責制 Accountability | 第 5 條 + 第 24 條 | 企業必須證明已落實合規措施，並保持必要紀錄以利稽核 |
| 資料保護影響評估 DPIA | — | 當處理可能對資料主體權利造成高風險時，必須進行 DPIA |
2.8台灣 PDPA vs 美國 CDPA 對照
| 法規 | 適用範圍 | 核心要求 |
|---|---|---|
| PDPA Personal Data Protection Act | 台灣境內或涉及台灣居民個資處理的組織 | ① 收集與使用需具備特定目的並明確告知；② 主體可請求查閱、複製、更正或刪除；③ 主體可隨時要求停止收集、處理、使用；④ 企業需實施適當安全維護措施 |
| CDPA Consumer Data Protection Act（美國地方性） | 美國境內特定州（例：維吉尼亞州）的個資處理 | ① 主體擁有查閱、修正、刪除、可攜權利；② 組織需提供透明且簡明的隱私政策；③ 敏感資料（如健康資訊）採更嚴格保護 |
2.9HIPAA 三大保護措施
| 類型／英文 | 內容 |
|---|---|
| 技術性保護 Technical Safeguards | 強制資料加密（Encryption）、身份驗證與訪問控制（Access Control）、安全資料傳輸儲存 |
| 實體性保護 Physical Safeguards | 設備安全管控（伺服器、資料中心）、資料備份與災難復原（Backup & Disaster Recovery） |
| 行政性保護 Administrative Safeguards | 安全政策與程序、員工培訓與安全意識教育、定期內部風險評估（Risk Assessment & Audit） |
2.10PCI-DSS 五大要求
| 要求 | 內容 |
|---|---|
| ① 網路安全保護 | 防火牆、防入侵偵測系統 |
| ② 資料傳輸與儲存加密 | TLS、AES |
| ③ 嚴格存取控制 | 多因素認證、權限最小化原則 |
| ④ 定期安全評估 | 弱點掃描、滲透測試 |
| ⑤ 員工資料安全訓練 | 內部稽核制度建立 |
2.11台灣 AI 相關四法案／規範
| 法案／規範 | 主管機關 | 規範範圍 |
|---|---|---|
| FinTech Sandbox 金融科技創新實驗條例 | 金融監督管理委員會 | 金融機構進行創新業務測試的實驗沙盒：服務創新審核、個資安全、服務試行合規確認 |
| 醫療器材管理法 | 衛福部食藥署 TFDA | 醫療器材（含醫療 AI 產品）的上市許可、品質與安全標準 |
| 電信管理法 | 國家通訊傳播委員會 NCC | 電信服務業者（含 AI 通訊服務）營運管理、消費者權益、網路安全、資安管理 |
| 智慧財產權法 | 智慧財產局 TIPO | 著作權、專利、商標；AI 模型或資料集須注意版權取得與使用範圍 |
3偏見與倫理 (Bias & Ethics)
（1）模型偏見與歧視 + （2）倫理原則與框架
3.1偏見產生四來源
| 來源／英文 | 定義 | 典型情境 |
|---|---|---|
| 資料分布不均 Imbalanced Data | 資料集中某些群體樣本不足，模型對該群體預測效果差 | 醫療、招聘；醫療資料缺某性別或年齡族群 → 診斷準確度不均衡 |
| 歷史偏見 Historical Bias | 歷史數據反映既有社會或制度上的偏見，模型繼承並擴大歧視 | 過去信用審核包含種族或性別偏見 |
| 標註偏見 Labeling Bias | 標註者的個人觀點或文化背景導致不公平或不一致標註 | 標註者對某些群體有刻板印象 |
| 演算法偏見 Algorithmic Bias | 演算法設計優化整體效能但犧牲特定群體公平性 | 推薦系統基於總體用戶偏好，忽略少數群體 |
3.2歧視性結果的潛在影響
| 影響 | 內容 |
|---|---|
| 弱勢群體歧視 | 對性別、種族、年齡或身障人士產生不公平待遇；例：貸款申請、招聘過程歧視、醫療資源分配不公 |
| 企業品牌與信譽損害 | 引發社會輿論反彈與消費者抵制，嚴重損害品牌形象，可能面臨法律訴訟和監管機構處罰 |
3.3國際 AI 倫理四原則
| 原則／英文 | 核心要求 | 適用情境 |
|---|---|---|
| 透明度 Transparency | 主動披露模型如何處理資料、如何做出決策，以及對使用者／社會的潛在影響 | 高風險領域（醫療、金融、招聘）要求特別嚴格 |
| 可解釋性 Explainability | 提供足夠資訊讓使用者理解 AI 系統的決策過程，能在出現問題時提出合理挑戰 | 金融貸款、人力資源管理等重大利益決策 |
| 公平性 Fairness | 積極避免偏見，不對特定群體（種族／性別／年齡）產生歧視，致力於最小化偏差範圍 | 仔細檢視訓練資料，避免延續或放大社會不平等 |
| 問責性 Accountability | 建立清晰的 AI 治理責任體系，為設計／開發／部署／運營確立明確的責任人，能快速識別問題並修正 | 對使用者、社會及環境造成的任何負面影響都需負責 |
3.4五大國際 AI 倫理機構／標準
| 機構 | 代表文件 | 年份 | 核心立場 |
|---|---|---|---|
| 歐盟 AI HLEG | 《人工智慧倫理指導原則》 Ethics Guidelines for Trustworthy AI | 2019 | 由歐盟高級人工智慧專家小組制定；強調透明、可解釋、公平、問責；全球推動負責任 AI 的重要指導文件 |
| OECD | 《人工智慧高級準則》 OECD Principles on Artificial Intelligence | 2019 | 提出 AI 發展和應用的公平性、透明度、問責性；對全球 AI 倫理標準與政策制定有重要影響 |
| 聯合國 UN / UNESCO | — | — | 強調全球範圍內保障人權、隱私、避免偏見和歧視 |
| GPAI 全球人工智慧聯盟 | — | — | 多國政府支持，強調 AI 應基於人權、平等與可持續發展原則 |
| ISO / IEC 標準 | — | — | 制定安全性、公平性和透明度相關技術標準 |
3.5企業內部倫理治理四措施
| 措施／英文 | 內容 |
|---|---|
| 倫理委員會 Ethics Committee | 跨領域委員會（技術、法律、人權、風險管理）；定期審查 AI 專案倫理影響；提供獨立的第三方審查 |
| AI 審查流程 Ethical Review Process | 評估倫理影響、風險評估、影響分析、預防措施建議；模型部署前進行 |
| 內部教育訓練 Internal Training | 定期 AI 倫理意識教育與技能培訓；員工識別與應對偏見、歧視及其他倫理風險 |
| 透明度與對外溝通 Public Communication | 主動公開 AI 使用原則及社會影響；接受外部意見回饋，實現外部監督和透明度的雙向互動 |
4風險緩解策略與工具
（1）風險控管策略 + （2）風險監控與 MLOps 工具
4.1風險控管四策略
| 策略／英文 | 做什麼 | 適用情境 |
|---|---|---|
| A 迴避 Avoidance | 潛在損害嚴重且難以控制 → 不執行相關活動，從根本避免風險 | 技術風險高或法規限制嚴格；例：醫療 AI 因訓練資料不足、誤診風險過高 → 暫緩專案 |
| B 轉移 Transfer | 透過第三方承擔：保險、委外合約 | 製造業購買 AI 系統故障保險；電商與供應商簽 SLA（服務水準協議）約定延遲超標賠償 |
| C 緩解 Mitigation | 主動措施降低風險發生可能性或影響（最常見的策略） | 金融機構實施資料清洗流程，移除 50% 異常值，詐欺偵測模型準確率提升至 92%；醫療企業導入資料加密 + 合規培訓通過 HIPAA |
| D 接受 Acceptance | 影響較低且控管成本不划算 → 選擇接受並進行監控 | 電商小規模資料漂移僅影響 1% 推薦準確率，修復成本高於收益 → 接受但設監控閾值 |
4.2E. 風險管理計畫四要素
| 要素 | 內容 |
|---|---|
| ① 風險識別與評估結果 | 列出風險清單與影響評分 |
| ② 風險對應措施 | 具體行動與時程 |
| ③ 責任人與分工 | 指定負責團隊（資料外洩 → 資安團隊加密；模型偏誤 → 資料科學家調整） |
| ④ 監控與回報機制 | 設定報告頻率與管道（例：每週向管理層回報進度） |
4.3MLOps 四大監控情境
| 情境／英文 | 做什麼 | 教材示例 |
|---|---|---|
| A 模型漂移監控 Model Drift Monitoring | 監控模型效能下降，追蹤可能原因（資料變化／外部環境） | 電商平台監控推薦模型準確率，準確率下降時自動觸發重新訓練恢復效能 |
| B 資料漂移監控 Data Drift Monitoring | 監測資料分佈變化，新輸入與原訓練資料分佈顯著差異時發出警告 | 零售公司節日促銷期間，監控消費金額特徵分佈變動，調整資料後恢復模型效能 |
| C 效能異常警示 Performance Anomaly Alerting | 模型效能異常（如錯誤率過高）時，即時發警報 | 金融機構詐欺偵測模型，根據預警閾值（如錯誤率超過 5%）即時通知 |
| D 自動重新訓練 Auto-retraining | 監控發現效能下降或資料漂移時，自動觸發再訓練 | 電商公司推薦模型自動再訓練後準確率回升至 90% 以上 |
AIONDAILY × 咖啡 AI 學 · iPAS AI 應用規劃師中級 · L21203 考前複習筆記 · v1.0（2026-05 表格化精簡版）