每個人都在用 AI。
但幾乎沒有人真正了解它的運作原理。
大家隨口說著 Transformer、嵌入（Embedding）、RAG、Agent、RLHF……
好像每個人都懂。
其實多數人並不了解。
老實說呢？
一旦你掌握了這些心智模型，AI 其實沒有那麼複雜。
ChatGPT、Claude、Midjourney、Cursor、程式碼 Agent。
只要你搞懂下面這 20 個概念，這一切就變得合情合理。
不需要博士學位。沒有術語轟炸。只有簡單的解釋和圖解。
收藏起來，你一定會再回來看。
第一部分：AI 實際運作原理（一切建立的基礎）
1. 神經網路
每個 AI 模型的大腦。
神經網路是一層一層的管線。
→ 資料進入輸入層 → 通過隱藏層 → 輸出為預測結果
每個連接都有一個「權重」——一個微小的分數，控制某個神經元對下一層的影響程度。
訓練 = 調整數十億個權重，直到輸出準確。
概念很簡單，規模卻很驚人。
GPT-4 有約 1.8 兆個參數。Claude 3 Opus 有數千億個。
全都源自同一個基本概念：帶有可調節連接的分層神經元。
2. 分詞（Tokenization）
AI 在讀取你的文字之前，會先把它拆成一個個的「詞元」（Token）。
不一定是完整的單詞。
"playing" → "play" + "ing"
"ChatGPT" → "Chat" + "G" + "PT"
"dog" → "dog"（保持完整）
為什麼不用完整的單詞？
語言很混亂。有新詞、錯字、混合語言。固定詞彙表會大到不可能。
詞元是可重複使用的積木。
即使模型從未看過某個單詞，也能透過拆解成熟悉的片段來理解它。
粗略規則：1 個詞元 ≈ 0.75 個單詞。
1000 個詞元 ≈ 750 個單詞。
3. 嵌入（Embedding）
文字被分詞後，每個詞元會變成一個數字。
那個數字就是嵌入——一個代表意義的向量。
把它想成詞語的 Google 地圖。
→ 「醫生」和「護士」靠得很近
→ 「醫生」和「披薩」離得很遠
→ 「國王」減去「男人」加上「女人」≈「女王」
模型不像你那樣理解詞語。
它理解的是距離和方向。
這就是以下功能的基礎：
→ 語意搜尋
→ 推薦系統
→ RAG 系統
所有「理解意圖」的技術都在底層使用了嵌入。
4. 注意力（Attention）
「Apple」這個字在不同語境中意思不同：
→ 「我吃了一顆 Apple」→ 水果
→ 「我買了 Apple 股票」→ 公司
光靠嵌入無法解決這個問題。
注意力可以。
注意力讓每個詞語可以看向句子中的其他所有詞語，並決定哪些重要。
在「她買了 Apple 的股票」中：
→ 「Apple」高度關注「股票」和「買了」
→ 模型推斷：公司，不是水果
在注意力機制出現之前，模型是從左到右讀取。緩慢、有限。
有了注意力之後，模型一次看到整個句子。
這個單一概念開啟了現代 AI 的大門。
5. Transformer
目前幾乎所有 AI 模型都使用的架構。
2017 年在名為〈Attention Is All You Need〉的論文中提出。
突破點：不再一個字一個字地讀，而是用注意力機制平行處理所有內容。
運作方式：
→ 文字 → 詞元 → 嵌入 → 堆疊的注意力層 → 輸出
每一層都深化理解：
→ 早期層：語法、基本結構
→ 中間層：詞語關係
→ 深層：複雜推理
結果：訓練速度大幅提升，輸出品質遠勝以往。
GPT、Claude、Gemini、Llama、Mistral。
全都是 Transformer。
搞懂這一個架構，你就搞懂了現代 AI。
第二部分：LLM 如何運作（你和 AI 聊天時實際發生的事）
6. LLM（大型語言模型）
LLM 是一個在大量文字上訓練的 Transformer。
書籍、網站、程式碼、維基百科、Reddit。
數兆個詞元。
訓練任務簡單到令人難以置信：
→ 預測下一個詞元。
就這樣。
但是當你在數兆個例子中重複這個過程時，神奇的事情發生了。
模型學會了文法。然後是推理。再來是如何寫程式、翻譯語言、解決數學問題。
沒有人叫它做這些事。
它是從大規模的「下一個詞元預測」中湧現出來的。
「大規模」= 數千億個參數。訓練成本 = 數百萬美元。
ChatGPT、Claude、Gemini → 都是 LLM。
7. 上下文視窗（Context Window）
每個 AI 模型都有記憶限制。
它叫做上下文視窗。
這是模型一次能「看到」的最大詞元數量——你的訊息 + 它的回覆 + 對話歷史。
早期 GPT：約 4,000 個詞元
GPT-4：128,000 個詞元
Claude 3.5：200,000 個詞元
Gemini 1.5 Pro：1,000,000 個詞元
視窗越大 = 上下文越多 = 答案越好。
但有一個陷阱。
模型不會平等地讀取所有內容。
它們專注於上下文的開頭和結尾。
中間部分？常常被忽略。
這叫做「中間迷失」（Lost in the Middle）問題。
大的上下文視窗 ≠ 完美的記憶。
了解這個，就能解釋為什麼 AI 有時會「忘記」你清楚提到的事情。
8. 溫度（Temperature）
AI 在生成文字時，並不是每次都選最可能的下一個詞。
它有一個叫做溫度的調節鈕。
→ 溫度 = 0：總是選最安全、最可預測的詞
→ 溫度 = 1：選得更有創意、更多變化
→ 溫度 = 2+：變得很狂野，有時語無倫次
低溫度 → 用於：程式碼、事實、摘要
高溫度 → 用於：腦力激盪、創意寫作、變化版
大多數工具會自動幫你設定。
但了解這個，就能解釋為什麼 AI 有時很「無聊」，有時卻讓你驚喜。
9. 幻覺（Hallucination）
AI 會自信地說謊。
它不是故意的。它根本無法控制。
原因是這樣的。
LLM 不是搜尋真相。
它預測的是最可能的下一個詞元。
如果一個錯誤的陳述基於訓練模式看起來「應該接在後面」，它就會生出來。
沒有驗證。沒有查詢。純粹的模式配對。
所以它會：
→ 引用一篇不存在的論文
→ 發明一個從未被創造的 API 函式
→ 完全自信地陳述一個虛假的歷史「事實」
這就叫做幻覺。
解決方法：永遠不要在不驗證的情況下相信 AI 提供的資訊。
使用 RAG（概念 16）將它建立在真實資料上。
10. 提示詞工程（Prompt Engineering）
你問問題的方式會改變一切。
同樣的模型。同樣的問題。根據你如何引導，結果天差地別。
糟糕的提示詞：
→ 「解釋 API」
→ 得到：模糊、表面的答案
好的提示詞：
→ 「解釋 REST API 如何處理認證。給一個真實的程式碼範例。假設我是初級開發者。」
→ 得到：具體、有結構、立即有用
提示詞工程其實就是清晰的溝通。
真正有用的技巧：
→ 提供上下文（「我正在建立一個 SaaS 產品，目標是 X」）
→ 指定角色（「扮演資深後端工程師」）
→ 展示範例（「這是我喜歡的格式：___」）
→ 具體說明輸出要求（「給我 5 個選項，編號列表」）
→ 將複雜需求拆解成步驟
提示詞工程不是什麼 hack。
它是你與模型溝通的主要方式。
第三部分：AI 模型如何改進（原始模型如何變成有用的產品）
11. 遷移學習（Transfer Learning）
從頭開始訓練非常昂貴。
大量的資料。龐大的運算。數週的訓練。
遷移學習解決了這個問題。
你拿一個已經在大型通用任務上訓練好的模型，針對特定用途進行調整。
你不是從零開始。你是在既有的基礎上建立。
把它想成這樣：
→ 你已經會騎腳踏車
→ 學騎機車會快很多，因為你有那個基礎
→ 你遷移了已經會的技能
這就是目前幾乎所有 AI 產品的運作方式：
→ OpenAI 訓練大型基礎模型
→ 公司針對自己的特定用途進行微調
→ 節省數百萬美元的運算成本和數月的訓練時間
現在沒有公司會從頭訓練了。
12. 微調（Fine-Tuning）
遷移學習告訴你概念。
微調就是實現它的方法。
你拿一個預訓練的模型，繼續用小型的、聚焦的資料集訓練它。
模型已經會「語言」了。
現在你是在教它你的特定領域。
範例：
→ 用臨床筆記微調的醫療模型
→ 用合約微調的法律模型
→ 用 GitHub 微調的程式碼模型
結果：一個完美針對你使用案例回應的模型。
代價：你需要更新數十億個參數。
這需要強大的運算能力——多張 GPU、嚴謹的基礎設施。
（這就是為什麼下一個概念 LoRA 如此重要。）
13. RLHF（基於人類回饋的強化學習）
微調讓模型變得專門化。
RLHF 則讓它們感覺起來有幫助且安全。
沒有它：模型只是預測文字。流暢，但沒有對齊人類期望。
有了它：模型學會人類真正偏好的是什麼。
運作方式：
→ 給模型一個提示
→ 模型產生多個回覆
→ 人類對回覆進行排序
→ 模型學會偏好人類偏好的答案
重複數千次。
模型建立起「好答案」的 sense：
→ 清晰
→ 有幫助
→ 誠實
→ 安全
這就是為什麼 ChatGPT 和 Claude 感覺像助手，而不是隨機的文字產生器。
沒有 RLHF，它們仍然令人印象深刻。但遠遠不夠有用、不夠可信，也更難控制。
14. LoRA（低秩適應）
微調很強大，但很昂貴。
更新數十億個參數需要多張 GPU 和嚴謹的基礎設施。
LoRA 解決了這個問題。
它不改變整個模型，而是：
→ 保持原始模型凍結
→ 在頂部添加微小的可訓練層
→ 這些層只是完整模型大小的一小部分
關鍵洞察：大多數微調的變化都很小。
你不需要重寫整個模型。
你只需要小規模的針對性調整。
結果：
→ 在單張消費級 GPU 上進行微調：可行
→ 儲存一個基礎模型 + 切換不同的 LoRA 適配器：實用
→ 多個專門模型而無需大量儲存空間：達成
LoRA 是開源 AI 爆炸式成長的原因。
突然之間，任何人都可以在筆電上微調強大的模型。
15. 量化（Quantization）
模型變得越來越龐大。
運行它們需要大量的記憶體和運算力。
量化讓它們變得更小、更便宜來運行。
做法：降低每個權重的精度。
以完整精度儲存的權重用 32 位元。
量化到 4 位元 → 縮小 8 倍。
神奇的是：品質下降通常小得驚人。
這就是為什麼你現在可以：
→ 在 MacBook 上運行 LLaMA
→ 在消費級 GPU 上本地運行 Mistral
→ 在手機上使用強大的模型
沒有量化，大型模型就只能待在資料中心。
有了量化，它們可以在你的機器上運行。
第四部分：真實的 AI 系統如何建構（你實際使用的產品背後是什麼）
16. RAG（檢索增強生成）
LLM 會產生幻覺，因為它們根據記憶回答。
RAG 透過讓它們先查閱資料來解決這個問題。
運作方式：
- 使用者問問題
- 系統在知識庫中搜尋相關文件
- 這些文件作為上下文傳給模型
- 模型根據真實資訊回答——而不是猜測
把它想成：
→ 閉書考試（沒有 RAG）：憑記憶回答，常常錯
→ 開書考試（有 RAG）：查閱來源，準確得多
為什麼強大：
→ 資料變更時不需要重新訓練——只要更新文件即可
→ 模型總是使用最新、準確的資訊
→ 大幅減少幻覺
每個嚴肅的 AI 產品都使用 RAG。
客服機器人、法律工具、醫療助手、內部知識庫。
17. 向量資料庫（Vector Database）
RAG 需要快速找到正確的文件。
但你要如何根據意義——而不只是關鍵字——來搜尋數百萬份文件？
向量資料庫。
運作方式：
- 每份文件被轉換成嵌入（一個數字向量）
- 這些向量儲存在資料庫中
- 當使用者問問題時，問題也變成向量
- 資料庫找到最接近問題向量的向量
- 回傳語意上最相似的文件
為什麼比關鍵字搜尋更好：
→ 「心臟病治療」會找到關於「心血管照護方案」的文件
→ 即使確切的詞語不符，意義卻相符
工具：Pinecone、Qdrant、Weaviate、pgvector
向量資料庫讓 AI 系統「理解」——而不只是比對字串。
18. AI Agent
LLM 會回覆訊息。
AI Agent 則實際做事。
差別：
→ LLM：你問，它答，結束
→ Agent：你給一個目標，它規劃、採取行動、檢查結果、調整、重複
Agent 循環：
思考 → 行動 → 觀察 → 重複
範例：一個程式碼 Agent 正在修 bug
→ 讀取問題描述
→ 探索程式碼庫
→ 找出問題
→ 寫修正
→ 跑測試
→ 看到哪裡失敗
→ 調整修正
→ 重複直到完成
模型是大腦。工具是雙手。
Agent 可以使用哪些工具？
→ 網路搜尋
→ 程式碼執行
→ 檔案系統
→ API
→ 電子郵件 / 日曆
→ 資料庫
Agent 把 AI 從聊天機器人變成同事。
19. 思維鏈（Chain of Thought, CoT）
有時 AI 答錯不是因為它笨。
而是因為它太快跳到答案。
思維鏈解決了這個問題。
與其直接要求最終答案：
→ 「求解：一列火車以時速 60 英里行駛 2.5 小時，距離多遠？」
你提示它一步一步思考：
→ 「逐步求解：速度 = 60 英里/小時。時間 = 2.5 小時。距離 = 速度 × 時間 = ?」
模型逐步推論：
→ 第一步：找出公式
→ 第二步：代入數字
→ 第三步：計算
對於數學、邏輯、多步驟問題來說可靠得多。
關鍵洞察：給模型思考的空間，而不只是反應。
這就是為什麼像「逐步思考」或「仔細推理」這樣的提示詞真的有效。
20. 擴散模型（Diffusion Model）
到目前為止都在講文字。
擴散模型解釋 AI 如何產生圖像。
這個過程違反直覺。
模型不是學習畫畫。
它學習破壞圖像。
訓練：
→ 從一張真實圖像開始
→ 逐步加入雜訊，直到變成純粹的靜態
→ 訓練模型反轉這個過程——逐步去除雜訊
生成：
→ 從純粹的雜訊開始
→ 模型逐步去除雜訊
→ 由你的文字提示引導
→ 圖像從隨機中浮現
這個名字來自物理學——粒子在介質中隨機擴散，就像墨水在水中擴散。
這裡，模型學習反轉這個擴散。
現在不只是圖像了：
→ 影片（Sora、Runway）
→ 音訊
→ 3D 內容
→ 藥物分子
擴散模型是 AI 生成任何視覺內容的方式。
以上就是全部 20 個概念。
讓我總結一下：
AI 如何運作：
→ 1. 神經網路——分層模式學習
→ 2. 分詞——將文字拆成片段
→ 3. 嵌入——以數字表示意義
→ 4. 注意力——語境改變意義
→ 5. Transformer——一切背後的架構
LLM 如何運作：
→ 6. LLM——大規模的下一個詞元預測
→ 7. 上下文視窗——記憶限制與中間問題
→ 8. 溫度——創造力調節鈕
→ 9. 幻覺——自信但不正確
→ 10. 提示詞工程——你如何溝通
模型如何改進：
→ 11. 遷移學習——在既有基礎上建立
→ 12. 微調——讓模型專門化
→ 13. RLHF——教它變得有幫助
→ 14. LoRA——低成本微調
→ 15. 量化——在小型機器上運行大模型
真實系統如何建構：
→ 16. RAG——先查閱，再回答
→ 17. 向量資料庫——按意義搜尋
→ 18. AI Agent——從回答到行動
→ 19. 思維鏈——給它思考的空間
→ 20. 擴散模型——從雜訊到圖像
你現在了解 AI 實際上是如何運作的了。
大多數每天使用 AI 的人都不了解。
這個差距就是你的優勢。
如果這篇文章對你有用：
→ 轉發分享給你的社群
→ 追蹤 @sairahul1 獲得更多這類解析
→ 收藏以便日後參考
我寫關於 AI、打造產品，以及在你睡覺時也能運作的系統。
