这是人类历史上一个关键时刻。通用人工智能（AGI），一种能够展现人脑所有认知能力的系统，可能距离我们只有短短几年时间。当我们在未来几十年回望此刻，我相信我们会意识到，自己正站在奇点的山脚下——这无异于人类新时代的曙光。
我毕生致力于 AGI 的研究，因为我始终坚信，如果能够负责任地构建和部署，它将成为有史以来最有益、最具变革性的技术之一。AGI 无法与标准的技术突破相提并论，甚至不能与互联网或移动通信这样影响深远的发明相比——它更接近于电或火的发现。仔细想想，我们本质上找到了一种让沙子思考的方法。这堪称奇迹。
这项技术的影响规模将是空前的，其影响力或许相当于工业革命的 10 倍，而速度则是其 10 倍。它将帮助我们解决社会面临的一些最大问题，从加速药物研发、开发新型清洁能源，到创造新颖的先进材料。我们甚至可能达到一个资源不再成为人类进步限制因素的地步，从而开启一个令人惊叹的富足新时代。
前沿的挑战
人工智能已经开始带来现实世界的益处，但为了兑现其巨大的潜力，我们必须深思熟虑、小心谨慎地驾驭这个关键的发展时期。我们需要采取紧急行动，来应对随着我们接近 AGI 可能出现的风险。我们已经看到了前沿模型对网络安全带来的挑战，随着能力的持续进步，包括核与生物风险在内的其他威胁也可能很快浮现。展望未来，我们需要强大的保障措施，以维持对日益自主化、能够递归自我改进的系统的控制——并解决那些随着时间的推移才会变得清晰、未知的问题。
我一直相信人类的聪明才智和创造力能够解决任何问题。我相信，减轻与 AI 相关的技术风险是一个我们可以共同应对的挑战，但前提是我们必须给自己留出足够的时间和空间，来正确地走好下一个关键步骤。目前，作为一个领域和更广泛的社会，我们并没有做到这一点。
当下，我们陷入了一场极其激烈、多层次的商业和地缘政治竞赛。虽然这些竞争动态推动了快速进步，并加速了令人难以置信的积极成果，但前沿领域的进展正在超越我们对这项技术的理解。世界上没有人确切知道接下来会发生什么，即使是专家们也意见不一。当存在高度不确定性且赌注如此之高时，采取审慎乐观的态度是明智且正确的策略。这需要公共政策既能促进创新，又能激励责任与安全，促进关键安全议题上的国际合作，并鼓励审慎考虑如何为了社会利益部署 AI。
前沿 AI 标准机构框架
我们在 AI 领域看到的快速进步，需要一种动态、适应性强且严谨的新方法来测试前沿 AI 模型的能力。凭借其经济和科技地位，美国有条件迈出制定此类框架的第一步。它可以建立一个新型标准机构，其模式类似于联邦监管下的公私合作伙伴关系或自律组织，如同金融业监管局（FINRA），其董事会应包括独立的顶尖技术专家和开源社区代表。资金需求将十分庞大，且很可能主要来自业界，以便吸引世界级的技术人才，并为大规模测试提供必要的计算资源。
该标准机构将负责制定评估协议，并与相关联邦机构及美国国家实验室合作，在国家安全相关领域进行测试。如果一个模型在标准机构确定并定期更新以跟上 AI 能力演变的一系列基准测试中达到特定阈值，则将被归类为"前沿级"。拥有这些基准定义下的"前沿模型"的组织将被视为"前沿实验室"，并被鼓励采用最佳实践，例如发布包含技术细节的模型卡、维护强大的内部网络安全、审查关键人员、为安全研究提供充足资源等。
最初，前沿实验室将自愿在发布前最多 30 天，向标准机构提交模型以供审查。一旦评估协议被证明有效且稳健，就可以迅速进入正式化阶段，这意味着前沿模型需要通过在美市场部署的测试。实验室还将与标准机构合作，处理任何发布后的关键漏洞。
模型评估应包括对网络安全、生物威胁及其他高风险领域能力的严格科学评估。特定的自主 AI 测试可关注其是否试图绕过安全护栏或存在欺骗迹象，并确保其遵循最佳实践，例如对 AI 生成的图像进行数字水印，以及生成人类可读的输出令牌以理解模型的推理过程。
这些评估将定期更新，初始阶段可能每季度一次，过时或饱和的基准将被淘汰和替换。最初，评估将咨询前沿实验室的意见，但最终，标准机构应建设自身技术能力，创建独立于实验室的内部测试，以防止过度拟合。标准机构可与美国政府合作，推广第三方审计员生态系统，以协助评估以及新基准和评估标准的开发。
这种方法的好处在于，它既专注于技术，同时又能支持创新并激励负责任的行为。它旨在跟上该领域的加速发展，并适应识别出的最大风险，如果情况严重需要，甚至可以升级，包括在必要时协调前沿实验室暂缓发展步伐。被指定为前沿实验室将带来巨大声望，并且任何组织，只要构建出符合基准标准的模型，都可以获得这一资格。该框架适用于所有前沿级模型，无论其原产国，也无论其是开源还是闭源，但任何非前沿模型（例如来自初创公司或学术界的模型）将不受此流程约束。
这项由美国发起的努力，将为制定关于前沿 AI 的共享国际标准提供一个坚实的起点。由于这项技术将影响整个地球，理想情况下，该框架将促使国际社会达成共识，共同管理最严重的风险，同时确保每个人都能获得并受益于 AI 带来的机遇。
未来尚未注定
AGI 有潜力成为推动科学和医学进步的终极工具，并带来巨大的生产力提升和经济增长。但为了实现这一点，我们需要通过围绕一个共享的全球框架进行协调，运用最严谨的科学方法，汇聚最优秀的人才共同应对我们面临的挑战，来打好技术基础。
即使我们解决了这些艰难的技术挑战，仍将有更复杂的经济和哲学问题需要应对：在后稀缺时代，需要什么样的新型经济模式来帮助每个人繁荣发展？我们希望遵循什么样的价值观，意义和目的将是什么，甚至人类自身的境况会如何改变？解决这些问题显然不能也不应仅由技术专家来完成。它需要社会各界的共同努力，来帮助定义这个新篇章。
围绕 AI，既有巨大的兴奋，也有不确定性，两者都是合理的。但未来尚未注定，我们必须利用 AGI 到来前这个宝贵的窗口期，塑造这项技术，使其惠及全人类。我们现在的共同行动，将决定文明的下一个阶段如何展开。通过安全地将 AGI 引入世界，我们可以进入一个科学发现和进步的黄金新时代，迎来一个人类蓬勃发展的光明未来。
