有人將它包裝成易用的介面，成立一家公司，並宣稱整個產業即將被顛覆。
短期內，情況可能看起來如此。但一旦同樣的能力普及，優勢就會開始消失。看似顛覆性的東西，到頭來可能只是另一個功能。
AI 可以讓執行變得更快、更便宜、更簡單。但當所有人都能使用相同的模型和能力時，技術的取得本身就很少能成為持久的優勢。
真正的優勢來自於人們如何在組織內應用它。
AI 並不了解組織
模型可能懂程式設計、金融、行銷或客戶支援，但它不會自動理解組織為什麼以某種方式運作。
哪些遺留的決策造就了當前的系統？
哪些客戶需求是真正不可妥協的？
哪些流程是因為過去的失敗而引入的？
哪些目標在試算表上看起來合理，但實際上幾乎不可能達成？
該領域中有哪些法律、安全、營運或業務上的限制？
這些知識很少能完整且可靠地集中在一個地方。它們可能散落在人員、系統、文件、對話和過往決策中。
我們常稱之為「內部知識」。其中一部分可以也應該被記錄下來，但單靠文件記錄並不能解決問題。
RAG 和微調可以幫助模型存取組織知識，但它們無法保證資訊是完整、最新、相關或正確運用的。
人們仍然需要辨識缺失的上下文、處理邊緣案例、質疑假設並驗證結果。
更重要的是，人們必須做出超越這些系統所能可靠支援的判斷。
審查不只是修正 AI 的錯誤
大型語言模型可能會產生錯誤的資訊，卻不自知那是錯誤的。
常見的應對方式是加入人工審查員來檢查輸出。但審查 AI 輸出應該不只是修正事實錯誤。
了解領域和組織的人可以：
- 套用組織邏輯
- 辨識特殊情況
- 找出缺失的資訊
- 了解錯誤的代價
- 評估商業、法律和安全風險
- 辨識 AI 是否被用於錯誤的問題
- 改善提示詞、工作流程或系統，以利未來使用
透過這個過程，人們不只是修正模型，而是讓組織變得更有能力。
人類不是 AI 系統的配件。
他們是系統的一部分。
模型會變，但組織必須持續運作
AI 模型不斷在更新。
較新的模型可能推理能力更強，但語氣、格式或工具使用行為卻變差。API 可能改變。某個功能可能被移除。某個模型可能被淘汰。
過度依賴單一供應商也有風險。
價格可能上漲，使用政策可能改變，功能可能無法繼續使用。今天運作良好的模型，六個月後可能就不再適合。
一個圍繞特定模型優化流程的組織，如果缺乏內部專業知識，可能會受到嚴重影響。
一個有能力的團隊可以透過以下方式降低風險：
- 了解系統如何運作
- 評估新模型版本
- 在正式上線前測試變更
- 監控輸出品質
- 調整提示詞和工作流程
- 比較替代模型
- 減少對單一供應商的依賴
當某個模型變得過於昂貴、不可靠或不適合時，團隊應該能夠以最小的中斷進行遷移。
如果沒有這種能力，組織就不是被 AI 賦能。
而是依賴於它。
完全自動化可能帶來新的風險
人類不需要參與每一個例行步驟。
但僅僅因為可以自動化就將人從流程中移除，可能會創造出更危險的系統。
許多 AI 產品依賴於外部模型、函式庫、API、工具、插件和資料來源。
其中任何一個都可能成為失敗點，原因包括：
- 脆弱或受損的依賴項
- 錯誤或被污染的資料
- 惡意文件
- 提示注入
- 越獄攻擊
- 過高的權限
- 錯誤的工具使用
- 對系統安全能力的誤解
負責的人與實際執行的工作之間，層級越多，出錯的機會就越大。
傳統軟體遵循預先定義的指令。
AI 系統則解讀指令。
這個差異很重要。
輸入驗證、存取控制、日誌記錄、監控、稽核和核准流程仍然必要。但現在必須考慮到能夠解讀不可信任語言並根據解讀採取行動的系統。
答案不是避免自動化。
而是要清楚定義誰擁有系統、誰了解其風險、以及當出錯時誰該負責。
選擇不是在人類與 AI 之間。
真正的問題是，人類的責任必須留在哪裡。
AI 辯論的兩個極端都具有誤導性
一方聲稱 AI 將完全取代人類勞動。
另一方則假設 AI 不會產生太大影響。
這兩種觀點都過於簡化。
AI 會自動化某些任務、消除某些職位、創造新職位，並顯著改變許多其他職位。
它將讓較小的團隊能夠完成過去需要更大團隊才能完成的工作。
但這並不會讓人不重要。
反而讓留下來的人承擔更多責任。
隨著 AI 讓執行變得更快、更便宜，判斷力的價值將會提升。
AI 可以支援決策，並自動化決策過程中的部分環節。但責任和問責制不能簡單地轉移給模型。
人才資本不是為了維持現狀
投資人才並不意味著保護每一個現有的職位、流程或工作方式。
而是培養能夠適應新環境並為組織長期成功做出貢獻的人。
最有價值的人可能不僅僅是那些當前工作看起來最不容易被自動化的人。
他們可能是那些能夠結合以下能力的人：
- 領域知識
- 組織背景
- 客戶理解
- 技術能力
- 良好的判斷力
- 風險意識
- 有效使用 AI 的能力
組織不應該只問：
「我們可以用 AI 取代多少人？」
他們也應該問：
- AI 如何幫助我們的員工把工作做得更好？
- 我們必須保留哪些組織知識？
- 誰了解整個系統？
- 誰能在必要時做出困難的判斷？
- 人們將如何評估 AI 生成的建議？
- 當 AI 採取行動時，責任如何分配？
- 我們如何確保團隊在技術變化時能夠適應？
這些問題決定了 AI 是成為短期的效率工具，還是長期的組織能力。
真正的優勢
AI 可能降低例行執行的價值，同時提升判斷力的價值。
它可能讓某些職位變得不再必要，但也可能讓對的人變得更有能力。
最能從 AI 中受益的組織，不會只是盡可能地自動化。
他們會利用 AI 讓員工更有效率。
他們會將需要速度、一致性和規模的工作自動化。
他們會在需要背景、風險、判斷和問責的地方，維持明確的人類所有權。
人們不應該花時間做 AI 能可靠完成的工作。
同時，AI 也不應該被留來做需要人類背景、責任或問責的決策。
知道那條界線在哪裡，始終是人的問題。
當每個人都能使用 AI 時，模型本身不會是優勢。知道如何、在哪裡、以及何時使用它的人，才是優勢。
