Nadella 的 7 大原則、Dynatrace 以 9.15 億美元收購 Arize，以及 CIO、創辦人與投資人之間關於「誰該負責把關 AI Agent」的激辯。2026 年 10 月更新。
一個 AI Agent 可以把退款流程解釋得完美無缺，卻還是把錢打進了錯誤的帳戶。對話紀錄看起來沒問題，但交易本身卻錯了。
目前市面上有三類產品專門用來抓出這類問題：可觀測性（observability）、評估（evaluation）與保證（assurance）。供應商已經開始將它們整合在一起。但買家會不會跟進仍是未知數；第二個問題同樣懸而未決：到底該由誰來把關？什麼才算真正的獨立？
AI 正從單純回答問題，進化到實際執行任務。Gartner 預測，到 2028 年，將有三分之一的企業軟體應用程式具備 Agentic AI 功能，而 2024 年這個比例還不到 1%。這些 Agent 能撰寫並提交程式碼、轉帳、與客戶溝通，而且通常不需要人類即時監控。
當軟體只負責給出答案時，唯一的問題就是答案好不好。但 Agent 帶來了更多疑問：它做了什麼？做得對不對？出了事誰能負責？能不能隨時喊停？對 CIO 來說，這些既是工程問題，更是 AI 治理與風險管理問題。
目前有三個市場各自涵蓋了其中一部分：
- AI 可觀測性：記錄 AI 做了什麼。
- AI 評估：衡量 AI 做得有多好。
- AI 保證：將證據、控制措施及其限制彙整起來，讓人類能做出可問責的決策。英國政府將其描述為衡量、評估與傳達可信度的過程。
2025 年，AI 可觀測性是一個規模達 12.5 億美元的市場，同一份研究也預期，評估與品質保證將是其中成長最快的領域。2026 年 10 月 1 日，Dynatrace 完成對 Arize 的收購，這筆價值 9.15 億美元的交易旨在結合評估與可觀測性。Cisco 則在 5 月完成了 Galileo 的收購案。10 月 10 日，Satya Nadella 發表了信任 AI 的七大原則，內容橫跨上述三個市場。
接下來的內容會探討 AI 如何走到今天這一步、Nadella 提出了什麼主張，以及五種綜合觀點對於市場走向的激辯。
從規則到 AI Agent：為什麼信任變得更難了
用四個階段簡單回顧這段歷史。每個階段都讓機器變得更強大，也更難以解釋。
- 規則（約 1950 年代至 2000 年代）：大多數軟體都是工程師一步步手寫出來的。Bug 很多，但只要打開原始碼，就能找到出錯的那一行。
- 模式（2010 年代）：有了深度學習，機器不再依賴規則，而是透過範例學習影像辨識、語音辨識等任務。沒有人撰寫邏輯。這些系統主要負責標記、排序和推薦，至於要怎麼處理輸出結果，仍由人類或一般軟體決定。
- 對話（2022 年至 2024 年）：聊天機器人能寫作、摘要，甚至辯論。它們常常出錯，但通常會有人先看過答案再採取行動。
- Agent（2025 年起）：Agent 會點擊、打字、購買、寫程式、部署上線。實驗室讓它們在模擬的辦公室、瀏覽器和程式碼庫中反覆練習來訓練它們。有些 Agent 可以長時間自主運作，不需要人類逐一檢查每個步驟。
在對話階段，一個爛答案頂多讓你重看一次；但在 Agent 階段，一個錯誤動作可能賠上金錢、資料，甚至客戶。
早在 Agent 出現之前，軟體就已經在做高成本的自動化決策了。現在的差別在於：單一通用模型就能跨越多個工具，自行選擇並執行一連串動作。一旦出錯，原因可能是模型、提示詞、檢索到的資料、API、過期的記憶、權限設定，甚至是兩個 Agent 之間的互動。最終的答案只是證據的一部分。
Nadella 這樣描述過去的狀況：在傳統軟體時代，「我們有工具和能力去將行為追溯到特定的程式碼路徑」。但面對現在的模型，沒有人能指出某個決策背後的訓練資料或權重。這三個市場正是為了填補這個缺口而生。
Satya Nadella 的 AI 治理框架：信任 AI Agent 的 7 大原則
2026 年 10 月 10 日，Nadella 在他的部落格發表了〈超級智慧時代下，模型即內部風險〉一文。他的核心主張是：「我們必須將智慧的供給與對智慧的掌控權分開。」
他把能力強大的模型比喻為擁有廣泛存取權限的員工。擔心的不是模型心懷惡意，而是任何能接觸重要系統的人（或模型）都可能犯錯或被攻破。因此，你要限制它的存取範圍、記錄它的行為，並保留隨時制止它的能力。用他的話說：「如果無法被觀測，就無法被信任！」
他稱之為七項「可觀測性原則」。整體來看，它們構成了一套針對 Agent 的 AI 治理框架。以下整理各項原則的要旨，並附上我個人對應到現有市場的解讀。
- 模型多樣性：不讓單一 AI 自己檢查自己的工作，也不讓它獨自做出重大決策。對應市場：評估。
- 觀測一切：每一個有意義的動作都要留下防篡改、且人類可讀的證據。對應市場：可觀測性。
- 可驗證性：持續測試整個系統，包含攻擊、故障與邊界情境。對應市場：評估與保證。
- 獨立控制：規範 AI 存取權限的規則必須放在 AI 之外，讓它無法竄改。對應市場：主要是安全與存取控制工具，AI 平台也開始出現防護機制。
- 獨立稽核性：關於 AI 行為的證據，必須與受檢的 AI 分開保存。對應市場：保證。
- 遏制能力：授權人員可以在任務進行中途暫停或關閉模型。對應市場：主要是執行環境與安全工具。
- 事件揭露：發生失敗時通知受影響者，並分享經驗教訓。對應市場：企業實務，由可觀測性紀錄支援。
沒有任何單一市場能涵蓋超過兩項原則。獨立控制與遏制能力大多落在這三者之外，歸屬於安全與執行環境工具。綜合來看，這些原則描繪出的系統，比這三個市場加起來還要龐大。
他的結語是：「最值得信任的超級智慧系統，不會是搭載我們最信任模型的系統，而是讓我們能最少程度信任模型的系統。」
要盡可能少地信任模型，你需要它做過什麼的紀錄（可觀測性）、判斷表現好壞的方法（評估），以及人類能據此負責的證據（保證）。同時還需要兩樣東西——目前這三個市場多半把它們留給了安全與執行環境工具：模型無法竄改的控制機制，以及讓人類能隨時喊停的方法。
AI 可觀測性 vs 評估 vs 保證：目前的市場現況
把 AI Agent 想成一位剛報到的新司機。
- 可觀測性是行車紀錄器。它記錄每一次轉彎、煞車和險些擦撞，回答「AI 做了什麼？」。主要賣給負責維持系統運作的團隊。
- 評估是駕照考試。它針對特定情境替司機打分數，回答「表現有多好？」。買家主要是開發 AI 產品的工程師，現在 QA 團隊也越來越多。
- 保證是驗車報告。它在第一次上路前及行駛過程中，收集判斷車輛與司機是否適合上路的必要證據，回答「有沒有足夠的證據能為此背書？」。沒有哪次檢驗能保證車子永遠不出車禍；一份好的報告會清楚說明檢查了什麼、發現了什麼，以及還有哪些未知數。這是三者中最不成熟的領域，目前工作分散在品質、風險與法遵團隊之間。
當 AI 只負責給答案時，不同買家用不同工具的做法還算行得通。但到了 Agent 時代，這些工具之間的斷層就變得致命。每種工具單獨使用都有價值，但如果沒人查看，錄影檔就證明不了什麼；如果司機每週都在換，考照成績很快就會過期；而報告的可信度，完全取決於背後的錄影與考試結果。
近期 AI 可觀測性與評估平台的收購案：
- 2026 年 10 月，Dynatrace 以 9.15 億美元收購 Arize，將評估與生產環境監控合而為一。
- 2026 年 5 月，[Cisco 收購 Galileo](https://blogs.cisco.com/news/cisco-announces-the-intent-to-acquire-galileo) 併入 Splunk，涵蓋 Agent 的評估、監控與防護機制。
- 2026 年 2 月，[Snowflake 收購 Observe](https://www.sec.gov/Archives/edgar/data/1640147/000164014726000019/snow-20260518.htm)，將可觀測性帶進資料平台。
- 2026 年 2 月，[ClickHouse 收購 Langfuse](https://wetheflywheel.com/en/ai-observability/)，一款 LLM 追蹤工具。
Dynatrace 表示，Arize 這筆交易將評估與可觀測性結合在一起，讓團隊能在上線前檢查 AI，並在之後維持其可靠性。Cisco 則形容 Galileo 涵蓋了從早期評估到生產環境監控與防護機制的完整流程。
這些交易顯示供應商正在整合產品，但還沒看到買家合併預算、淘汰專業工具，或是向運行自家 AI 的公司購買保證服務。本文接下來要討論的，正是這些問題。
