AI 基礎設施資訊圖表海報

一張內容豐富、具未來感的教育海報，解釋現代 AI 系統，適用於技術簡報、學習教材及社群媒體資訊分享。

提示詞

目標：製作一張高度精緻的垂直教育資訊圖表，標題為 AI 基礎設施，副標題為現代 AI 系統運作原理，解釋從資料管線、GPU 訓練叢集到推論服務、批次處理及 KV Cache 等現代 AI 基礎設施。畫布：垂直海報，4:5 長寬比，深海軍藍未來感資料中心美學。使用帶有山脈、伺服器機架、GPU 晶片插圖、霓虹電路軌跡、細圓角面板、白色與青色字體以及小型橘色編號徽章的發光藍/紫色網格背景。整體風格應呈現為優質的技術解說海報，內容密集但易於閱讀。佈局：左上方為大標題，下方為小副標題與標語，右上角為裝飾性伺服器機架與 GPU 晶片。將內容安排為 8 個編號主區塊，外加右側的「關鍵概念」欄位與底部流程頁尾。使用精確的面板邊框、小型圖示、箭頭、圖表、表格與微標籤。區塊與必要內容： 1. 資料管線：顯示 5 個由箭頭連接的管線階段：原始資料來源、擷取與清理、標註 / 策展、Token 化 / 切塊，以及分片與儲存。原始資料來源包含 5 個項目：網頁、文件、程式碼、影像、日誌。擷取與清理包含 3 個項目：篩選、去重、正規化。標註 / 策展包含 3 個項目：品質檢查、人工 / 啟發式、資料集組裝。Token 化 / 切塊包含 3 個項目：轉換為 Token、切分為文件、加入特殊 Token。分片與儲存包含 3 個項目：拆分為分片、平衡分割、針對平行讀取優化。加入說明文字，指出資料經過清理、去重、策展、Token 化並儲存於分片中，以便多個工作節點高效讀取。 2. 儲存與編排層：包含 3 張垂直卡片：物件儲存，附雲端至資料庫圖示及註記「S3 / GCS / Azure Blob 或地端物件儲存」；中繼資料 / 實驗追蹤，附儀表板圖示及項目「執行與指標」、「超參數」、「血緣與產出物」；監控與日誌，附圖表/放大鏡圖示及項目「指標與警示」、「日誌聚合」、「追蹤與除錯」。加入頁尾註記，說明控制層負責協調運算任務、追蹤實驗、儲存檢查點，並監控利用率、故障與成本。 3. 訓練叢集架構：大型中央架構圖，標題為「訓練叢集架構」。顯示 4 個 GPU / 加速器節點方塊，以 2x2 網格排列，並以發光的高速網路連結連接，標示為「高速網路 InfiniBand / RoCE」。每個節點包含 CPU 主機（多核心）、RAM、GPU（如 8x H100）及 NVMe 本地 SSD。在節點間加入虛線連結。下方包含 3 個小型面板：節點內部、資料平行化，以及分散式訓練平行化（圖例）。節點內部應顯示 CPU 透過 PCIe/NVLink/NVSwitch 線路連接至多個 GPU。分散式訓練平行化圖例應顯示 4 個階段，標示為階段 1、階段 2、階段 3、階段 4。 4. 訓練步驟：建立一個從左至右的訓練流程，包含 6 個階段：輸入 Token、前向傳播、損失計算、反向傳播、梯度、優化器更新。包含一個檢查點圖示堆疊、「模型精度」方塊（提及 FP32、FP16/BF16、FP8）以及「優化器狀態」方塊。顯示梯度累積箭頭，並加入說明文字，解釋在訓練過程中，模型會預測輸出、計算損失、反向傳播梯度並更新權重，此過程重複數十億次。 5. 推論服務管線：建立一個緊湊的服務圖表，頂部包含 6 個階段：使用者請求、API 閘道、Tokenizer、排程器 / 路由器、模型伺服器 (GPU)、串流輸出。面板內包含動態批次處理（含 3 個請求列）、模型伺服器方塊（顯示 Prefill 與 Decode 迴圈）、GPU 記憶體中的 KV Cache、選用轉接器，以及連接 3 個模型副本的負載平衡器（標示為模型副本 1、模型副本 2、模型副本 N）。 6. 營運、可靠性與安全性：包含 6 張帶圖示的營運卡片：自動擴展、遙測 / 可觀測性、速率限制與配額、安全過濾器 / 防護機制、版本控制 / 回滾、成本監控。加入註記，說明生產環境 AI 系統需要強大的營運工具以保持可靠、安全且具成本效益。 7. 訓練與推論比較：加入一個包含 6 列的比較表格：目標、主要瓶頸、記憶體焦點、典型指標、擴展模式、韌性需求。使用兩個欄位，標示為「訓練」與「推論（服務）」。訓練應描述從資料學習模型權重、分散式運算與資料傳輸頻寬、激活值/梯度/優化器狀態、每秒 Token 數或收斂性、大型批次長任務、檢查點/容錯。推論應描述為使用者產生有用回應、延遲與吞吐量、模型權重加 KV Cache、延遲與每秒 Token 數、大量短請求、高可用性/優雅降級。 8. 右側關鍵概念欄：建立一個高大的右側側邊欄，標題為「關鍵概念」，包含 5 張字母卡片：A. 批次大小 (Batch Size)、B. 序列長度 / 上下文視窗、C. KV Cache、D. 吞吐量與延遲、E. 參數 / 權重 / 激活值。卡片 A 應定義批次大小，並以 Token/人員圖示展示小批次與大批次。卡片 B 應展示提示詞 Token 與長上下文，以標示為 T1, T2, T3, T4, …, Tn 的 Token 區塊呈現。卡片 C 應展示提示詞 Token 進入紫色圓柱狀 KV Cache，隨後新 Token 從 Cache 讀取。卡片 D 應展示 2 個儀表：吞吐量與延遲。卡片 E 應展示權重與激活值為藍色與紫色網格，並透過乘法連接。在側邊欄底部加入「Prefill 與 Decode」註記，解釋 Prefill 處理完整提示詞，而 Decode 使用 KV Cache 逐一生成 Token。頁尾：加入底部導覽列，順序為「資料 → 訓練 → 推論 → 價值」，左側為小型圓形火箭/指南針風格圖示，並附上結尾引言：以資料、運算與卓越工程驅動智慧系統。視覺風格：密集的企業級技術資訊圖表，清晰的向量與半 3D 圖示、發光青色輪廓、細緻漸層、體積光、小型示意圖、微型圖表，以及搭配現代無襯線標籤的乾淨襯線標題字體。配色方案應為深海軍藍、電光藍、青色、紫色、白色及少量琥珀色點綴。限制：使用 8 個編號主區塊、5 張關鍵概念卡片、4 個 GPU 節點、6 個訓練步驟階段、6 個推論階段、6 個營運卡片，以及 6 列訓練與推論比較表格。所有可見文字保持英文，避免浮水印，避免品牌 Logo，並在密集佈局下保持高度可讀性。