《構建 Agentic AI 系統》· 第 1 章 1.4 節
生成式 AI 很強，但把它放進真實產品前，你得先認識它的天花板。這篇用「問題 → 影響 → 解法」的結構，逐一拆解資料品質、隱私、算力、倫理與創造力這五道關卡。
生成式 AI 能生成逼真的圖像、流暢的文字，還能加速藥物發現。但正因為它正快速滲透醫療、金融、教育等高風險領域，在把它應用到具體場景之前，理解它的限制比讚嘆它的能力更重要。以下是最常見的五類問題，以及目前業界緩解它們的做法。
生成式模型的表現，高度取決於訓練資料的品質與多樣性。如果訓練資料本身有偏見、或不具代表性，模型的輸出就會複製、甚至放大這些偏見，導致某些群體在結果中被邊緣化。
假設訓練資料中 Class 0 的樣本數遠多於 Class 1，資料就「不平衡」。模型會過度依賴、甚至「背下」多數類的資料，對少數類的處理能力變差 —— 結果就是在少數類上表現糟糕、出現明顯偏見。
訓練資料裡可能夾帶個人、私有或專有資訊。這些資料若被模型「記住」並在輸出中洩漏，就會造成隱私與合規風險。
這些去識別化操作可能因使用場景不同而產生不同影響，必須充分分析，確保不會反過來損害模型的效能。
訓練複雜的生成式模型需要大量算力與高效能運算，成本極高、耗能巨大。高階硬體昂貴且取得受限，導致訓練大型 LLM 基本上只有大型科技公司或資金充足的研究機構做得起。
原本用來渲染高品質圖像的 GPU，如今成了 AI 訓練、微調與推理的關鍵組件。除了硬體本身，還有電力、冷卻、資料中心空間等大量基礎設施成本。
實務訓練一個自己的 SLM：三層階梯
情境：電商想做「客訴工單自動分類 + 草擬回覆」的小模型，跑在自家伺服器（資料不外送、每筆推理近乎零成本）。
中文任務可選 Qwen2.5-3B-Instruct；配合 QLoRA，一張 8GB 顯卡就能微調。撈 3,000 筆歷史工單＋資深客服整理的理想回覆，整理成 chat 對話格式並去識別化；資料不足時，可先用大模型「蒸餾（distillation）」生成高品質範例（大模型當老師，小模型當學生）。
餵「輸入 → 標準答案」，用 LoRA / QLoRA 只練小配接器，省顯存。
🛠 TRL SFTTrainer · Unsloth
📦 會照格式做事的模型
餵 好／差 成對回覆；DPO 免獎勵模型，比經典 RLHF＋PPO 簡單。
🛠 TRL DPOTrainer
📦 語氣貼近品牌的模型
分類對 = reward，程式自動驗證；模型會自己長出「思考鏈」。
🛠 TRL GRPOTrainer（≈ RFT）
📦 高準確、會推理的模型
SFT＝模仿 → DPO/RLHF＝品味 → GRPO/RLVR＝推理 · 小任務做到第 1 層就夠，要品質／推理再往上加
產出 LoRA adapter → merge 合併回主模型 → 量化轉 GGUF（3B ≈ 2GB）→ 用 Ollama / llama.cpp 一行變本機 API，或 vLLM 做高吞吐生產部署，最後包成 Agent 的一個「技能節點」。
① 深度偽造與虛假資訊：生成式 AI 能產出極逼真的合成內容，若不加管控，可能催生深偽與假訊息，威脅個人隱私、公共安全，甚至動搖社會信任。
② 知識產權：生成「類似現有作品」的內容，引發版權與智慧財產權爭議；原創性與所有權的法律界定複雜且往往令人困惑。
③ 工作岗位替代：經濟學家常低估內容生成與自動化帶來的失業衝擊，其影響需要與相關研究同步推進。
生成式 AI 的泛化能力其實很差：它很少能生成與訓練資料「截然不同」的內容。它擅長複製、重組已見過的模式，但要真正創造出具原創性、新穎性的東西，卻力不從心 —— 因此在「真正的創造力」上潛力有限。
這是一個仍然開放的挑戰。目前有許多新的研究與實踐正在推進，目標是確保這項技術被合理且負責任地使用，並持續拓展它的能力邊界。
實務不硬要模型無中生有，用系統設計去「補」
| 做法 | 實務怎麼做 | 補的是什麼 |
|---|---|---|
| RAG 檢索增強 | 把最新文件存進向量庫，回答前先撈相關段落塞進 prompt | 訓練資料以外的新知識，不用重訓 |
| RL 練推理 | 用 GRPO / RLVR 以可驗證獎勵讓模型長出思考鏈 | 學會拆解問題 → 對沒見過的題目泛化更好 |
| 資料增強 | 訓練資料刻意涵蓋更多分布、邊界案例、改寫變體 | 減少「只認得訓練那種寫法」的脆弱 |
| Agentic 補強 | 讓模型會用工具（搜尋、計算、程式執行） | 把不擅長的外包給工具，泛化交給系統 |
心法：別期待單次生成就驚艷，用「大量生成 + 篩選」逼出創意。
| 挑戰 | 核心問題 | 對應解法 |
|---|---|---|
| 資料品質與偏見 | 資料有偏見 → 輸出放大偏見；類別不平衡使少數類表現差 | 多樣高品質資料、資料分析、過採樣／欠採樣 |
| 資料隱私 | 訓練資料夾帶個資，恐外洩 | 匿名化／假名化，用小模型辨識個資後移除 |
| 計算資源 | 訓練成本極高、耗能大，門檻集中於巨頭 | 雲端預訓練模型與微調、小型語言模型（SLM） |
| 倫理與社會影響 | 深偽假訊息、知識產權、工作替代 | 偵測技術＋配套研究；本質是系統性／哲學性問題 |
| 泛化與創造力 | 泛化差，難生成真正原創內容 | 持續研究，確保負責任地使用（仍開放） |
生成式 AI 是一個快速演進、極具顛覆性的領域。理解 VAE、GAN、自迴歸模型等不同架構能讓我們掌握「它如何運作、適合用在哪」；但同樣重要的是，看清它在資料品質、隱私、算力、倫理與創造力上的限制。
其中，資料與算力的問題已有相對成熟的技術解法（重採樣、去識別化、SLM、雲端），而倫理與創造力更像是持續演進中的開放課題。認清這些天花板，正是負責任地打造 AI 系統的第一步 —— 也是接下來「智能體系統」的起點。