有人把它包装成一个易用的界面，围绕它建立一家公司，并宣称整个行业即将被颠覆。
在一段时间里，情况可能确实如此。但一旦同样的能力变得广泛可用，优势就开始消失。看似颠覆性的东西，最终可能只是另一个功能而已。
AI 可以让执行更快、更便宜、更简单。但当同样的模型和能力人人可用时，对技术的访问权很少能成为持久的优势。
真正的优势来自于人们如何在组织内部应用它。
AI 并不理解组织
一个模型可能理解编程、财务、营销或客户支持。但它不会自动理解一个组织为什么以它现有的方式运作。
哪些历史决策造就了当前的系统？
哪些客户需求是真正不可妥协的？
哪些流程是因为过去的失败而引入的？
哪些目标在电子表格中看起来合理，但在实践中几乎无法实现？
哪些法律、安全、运营或业务约束在该领域中至关重要？
这些知识很少完整、可靠地存在于一个地方。它们可能分散在人员、系统、文档、对话和过去的决策中。
我们通常称之为“隐性知识”。其中更多内容可以也应该被记录下来，但仅靠文档并不能解决问题。
RAG 和微调可以帮助模型访问组织知识，但它们无法保证信息是完整、最新、相关或正确应用的。
仍然需要人来识别缺失的上下文、处理边缘情况、质疑假设并验证结果。
更重要的是，人们必须做出超出这些系统可靠支持范围的判断。
审查不仅仅是纠正 AI 的错误
大型语言模型可能会产生错误信息，而自己却意识不到错误。
通常的应对方法是增加一个人工审核者来检查输出。但审核 AI 输出应该不仅仅是纠正事实错误。
一个了解领域和组织的人可以：
- 应用组织逻辑
- 识别特殊情况
- 发现缺失的信息
- 理解错误的成本
- 评估业务、法律和安全风险
- 识别 AI 是否被用于错误的问题
- 改进提示词、工作流程或系统以供未来使用
通过这个过程，人们不仅仅是纠正模型。他们让组织变得更强大。
人不是 AI 系统的附属品。
人是系统的一部分。
模型会变，但组织必须持续运转
AI 模型在不断更新。
一个新模型可能推理能力更强，但语气、格式或工具使用行为更差。API 可能发生变化。某个功能可能被移除。某个模型可能被淘汰。
过度依赖单一供应商也存在风险。
价格可能上涨。使用政策可能改变。功能可能变得不可用。今天表现良好的模型，六个月后可能不再适用。
如果一个组织将其流程围绕某个特定模型进行了优化，而缺乏内部专业知识，那么它可能会受到严重冲击。
一个有能力团队可以通过以下方式降低这种风险：
- 理解系统的工作原理
- 评估新模型版本
- 在生产部署前测试变更
- 监控输出质量
- 调整提示词和工作流程
- 比较替代模型
- 减少对单一供应商的依赖
当一个模型变得过于昂贵、不可靠或不合适时，团队应该能够以最小的干扰进行迁移。
如果没有这种能力，组织就不是被 AI 赋能，而是依赖 AI。
完全自动化可能带来新的风险
人类不需要参与每一个常规步骤。
但仅仅因为某个流程可以自动化就将其从人类手中移除，可能会创造一个更危险的系统。
许多 AI 产品依赖外部模型、库、API、工具、插件和数据源。
其中任何一个都可能成为故障点，原因包括：
- 易受攻击或受损的依赖项
- 错误或被污染的数据
- 恶意文档
- 提示注入
- 越狱攻击
- 权限过大
- 工具使用错误
- 对系统安全操作范围的误解
在负责人和执行的工作之间的层级越多，出问题的机会就越多。
传统软件遵循预定义的指令。
AI 系统解释指令。
这个区别很重要。
输入验证、访问控制、日志记录、监控、审计和审批流程仍然是必要的。但它们现在必须考虑能够解释不可信语言并根据该解释采取行动的系统。
答案不是避免自动化。
而是明确谁拥有该系统，谁了解其风险，以及当出现问题时谁负责。
选择不是人与 AI 之间。
真正的问题是，人的责任必须留在哪里。
AI 辩论的两个极端都具有误导性
一方声称 AI 将完全取代人类劳动。
另一方假设 AI 不会产生什么有意义的影响。
两种观点都过于简单化。
AI 将自动化一些任务，淘汰一些岗位，创造新的岗位，并显著改变许多其他岗位。
它将使较小的团队能够完成以前需要更大团队才能完成的工作。
但这并不会让人变得不那么重要。
它赋予了剩余的人更多的责任。
随着 AI 使执行更快、更便宜，判断力的价值将会上升。
AI 可以支持决策并自动化决策过程中的部分环节。但责任和问责制不能简单地转移给模型。
人力资本不是要保住现有的工作岗位
投资于人并不意味着保护每一个现有的角色、流程或工作方式。
它意味着培养能够适应新环境并为组织长期成功做出贡献的人才。
最有价值的人可能不仅仅是那些当前工作看起来最不容易被自动化取代的人。
他们可能是那些能够结合以下能力的人：
- 领域知识
- 组织背景
- 客户理解
- 技术能力
- 良好的判断力
- 风险意识
- 有效使用 AI 的能力
组织不应该只问：
“我们可以用 AI 替换多少人？”
他们也应该问：
- AI 如何帮助我们的人更好地完成工作？
- 我们必须保留哪些组织知识？
- 谁理解整个系统？
- 谁能在需要时做出艰难的判断？
- 人们将如何评估 AI 生成的建议？
- 当 AI 采取行动时，责任如何分配？
- 我们如何确保团队在技术变化时能够适应？
这些问题决定了 AI 是成为短期的效率工具，还是长期的组织能力。
真正的优势
AI 可能会降低常规执行的价值，同时提升判断力的价值。
它可能使某些角色变得多余，但也能让合适的人变得更有能力。
从 AI 中获益最多的组织不会简单地尽可能多地自动化。
他们会利用 AI 让自己的员工更高效。
他们会在速度、一致性和规模重要的地方实现自动化。
他们会在上下文、风险、判断力和问责制重要的地方保持清晰的人类所有权。
人们不应该花时间去做 AI 能够可靠完成的工作。
同时，AI 也不应该被留下来做出需要人类上下文、责任或问责的决策。
知道这条界限在哪里，将始终是一个人的问题。
当每个人都能使用 AI 时，模型本身不会成为优势。知道如何、在哪里以及何时使用它的人，才是优势。
