文章的焦点判断直截了当：通用人工智能（AGI）“可能只需短短几年就会到来”，，人类“正站在奇点的山脚下”
。。。。。Hassabis 将 AGI 的意义类比为电和火的发明，，并给了一个颇有画面感的说法：“我们实质上找到了一种让沙子思索的要领”
。。。。。 而这项手艺的影响规模将是史无前例的，，也许是工业革命的 10 倍，，速率也是 10 倍
。。。。。 在这个判断的基础上，，Hassabis 提出了一项详细的政策主张：由美国牵头，，建设一个前沿 AI 标准机构
。。。。。他给这个机构找了一个现成的参照物：FINRA，，即美国金融业羁系局（Financial Industry Regulatory Authority），，一个在美国证券生意委员会（SEC）监视下运作的、由行业出资的自律组织
。。。。。 Hassabis 设想的 AI 标准机构沿用同样的逻辑：联邦监视、行业出钱、自力专家做手艺判断
。。。。。前沿实验室在模子宣布前最多 30 天自愿提交审查；
；；
；；；一旦审查机制被证实有用，，就从自愿转为强制，，前沿模子必需通过测试才华在美国市场安排
。。。。。这个机构甚至被赋予了一项颇为大胆的权力：在须要时协调前沿实验室放慢开发速率
。。。。。 已往数月，，美国政府围绕前沿 AI 模子的羁系行动麋集，，白宫正在加速与 OpenAI、Anthropic、Google 等公司协商自愿性清静标准框架
。。。。。Hassabis 今年 3 月就曾果真忠言 AI 开发中的“竞速状态”（race conditions），，即竞争压力推动实验室在验证清静性之前就急于宣布
。。。。。此次长文以个人名义揭晓，，但作为 Google AI 营业的现实掌舵者，，他对羁系框架的详细构想在某种水平上可能也是 Google 在 AI 治理议题上的一次正式亮相
。。。。。 这是人类历史上的一个要害时刻
。。。。。通用人工智能（Artificial General Intelligence，，AGI），，也就是具备人类大脑所有认知能力的系统，，可能只需短短几年便会到来
。。。。。几十年后回望今天，，我想我们会意识到，，自己其时正站在通往奇点的山脚下，，一个属于人类的新时代正在开启
。。。。。 我一生都在研究 AGI，，由于我始终深信，，只要以认真任的方式构建和安排，，它就会成为人类发明过的最有益、最具厘革性的手艺之一
。。。。。AGI 无法与一般的手艺突破相提并论，，即便互联网或移下手艺这类影响深远的发明也不破例
。。。。。它更靠近于人类发明电或火
。。。。。仔细想想，，我们现实上找到了一种让沙子最先思索的要领
。。。。。这近乎事业
。。。。。 这项手艺带来的影响将前所未有，，其规；
；；
；；；蛐砘岬执锕ひ蹈锩 10 倍，，爆发速率也会是工业革命的 10 倍
。。。。。它将资助我们解决社碰面临的一些重大问题，，包括加速药物研发、开发新的清洁能源、创立先进的新质料
。。。。。我们甚至可能走到这样一个阶段：资源不再是限制人类前进的因素，，一个物质丰裕的新时代由此到来
。。。。。 AI 已经最先在现实天下中创立价值
。。。。。但要兑现它的重大潜力，，我们必需审慎地度过目今这段要害的生长时期
。。。。。随着 AGI 日益邻近，，我们需要连忙行动，，应对可能泛起的风险
。。。。。 前沿模子给网络清静带来的挑战已经展现
。。。。。随着能力继续提升，，核清静、生物清静等领域的威胁也可能很快泛起
。。。。。再往前看，，我们需要建设强有力的清静包管，，以确保人类仍能控制自主性越来越强、能够递归式自我刷新的系统，，同时处理那些现在尚不明确、只能随着时间逐渐展现的问题
。。。。。 我始终相信，，人类的智慧和创立力足以解决任何问题
。。。。。我有信心，，AI 带来的手艺风险是我们能够配合应对的挑战，，条件是我们给自己留下足够的时间和空间，，把接下来这个要害方法做好
。。。。。眼下，，无论 AI 行业照旧更普遍的社会，，都没有做到这一点
。。。。。 我们正深陷一场极其强烈、由多重条理交织而成的商业和地缘政治竞赛
。。。。。这种竞争推动了手艺快速前进，，让 AI 的重大益处更快展现，，但前沿能力的生长速率已经凌驾了我们明确这项手艺的速率
。。。。。 天下上没有人确切知道接下来会爆发什么，，纵然专家之间也保存分歧
。。。。。当不确定性云云之大、利害关系云云重大时，，坚持审慎的乐观才是明智的选择
。。。。。 这要求公共政策一面增进立异，，一面激励认真任且重视清静的行为；
；；
；；；在要害清静问题上推动国际相助；
；；
；；；同时认真思量，，应该怎样安排 AI，，才华让它真正造福社会
。。。。。 依附自身的经济和手艺实力，，美国很适合率先建设这样的框架
。。。。。美国可以设立一个新的标准机构，，接纳由联邦政府监视的公私相助模式或自律组织模式，，类似于美国金融业羁系局（Financial Industry Regulatory Authority，，FINRA）
。。。。。该机构的董事会应包括自力的顶尖手艺专家和开源社区代表
。。。。。 这项事情需要大宗资金，，并且资金很可能主要来自工业界
。。。。。只有这样，，机构才华吸引天下一流的手艺人才，，并获得开展大规模测试所需的算力资源
。。。。。 若是一个模子在标准机构设定的一组基准测试中抵达特定门槛，，它就会被认定为“前沿级”模子
。。。。。这些基准需要按期更新，，以跟上 AI 能力演进的速率
。。。。。拥有此类“前沿模子”的组织将被认定为“前沿实验室”
。。。。。 前沿实验室应被勉励接纳一系列最佳实践，，包括宣布披露手艺细节的模子卡、维持高水平的内部网络清静、审查要害岗位职员，，以及为清静与安保研究投入富足资源等
。。。。。 在框架实验初期，，前沿实验室可以自愿在模子宣布前最多提前 30 天，，将模子交给标准机构评估
。。。。。一旦评估规程被证实有用且稳健，，就可以迅速推动制度化
。。。。。届时，，前沿模子必需通过评估，，才华在美国市场安排
。。。。。实验室还需要与标准机构相助，，处理模子宣布后发明的重大误差
。。。。。 针对智能体型 AI 的专项测试，，可以检查模子是否试图绕过清静护栏，，或者是否体现出诱骗迹象
。。。。。评估还应确保相关方遵照最佳实践，，例如为 AI 天生的图像添加数字水印，，以及天生便于人类阅读的输出词元，，资助人们明确模子的推理历程
。。。。。 刚最先时，，评估可以由标准机构与前沿实验室配合制订
。。。。。但最终，，标准机构应建设足够的手艺能力，，自力于实验室设计自己的保存测试集，，防止模子针对评估太过拟合
。。。。。在美国政府的配合下，，该机构还可以推动形成一个第三方审计生态，，协助开展模子评估，，并开发新的基准和测试要领
。。。。。 这套方案的优势在于，，它聚焦手艺问题，，同时支持立异，，激励认真任的行为
。。。。。它能够跟上 AI 领域的加速生长，，并随着重大风险逐渐展现而一直调解
。。。。。 无论一个前沿级模子来自哪个国家，，也无论它是开放照旧关闭模子，，这套框架都可以适用
。。。。。首创企业或学术机构开发的非前沿模子则不必接受这一流程
。。。。。 由美国提倡的行动，，可以成为建设国际前沿 AI 配合标准的主要起点
。。。。。这项手艺将影响整个地球
。。。。。理想情形下，，这套框架能够推动国际社会形成共识：一面治理最严重的风险，，一面确保所有人都能接触并受益于 AI 带来的时机
。。。。。 要实现这些目的，，我们需要把手艺基础打牢：围绕一套全球配合框架睁开协调，，接纳最严酷的科学要领，，并让最优异的人才配合解决我们面临的挑战
。。。。。 纵然我们解决了这些艰难的手艺问题，，仍有越发重大的经济和哲学问题期待处理：在一个资源不再稀缺的天下里，，我们需要怎样的新经济模式，，才华让所有人过上富足的生涯？？？我们希望遵照怎样的价值观？？？人生的意义和目的将是什么？？？人类的生涯状态自己又会爆发怎样的转变？？？ 未来尚未写定
。。。。。我们必需使用 AGI 到来前这段名贵的窗口期，，指导这项手艺造福全人类
。。。。。我们现在配合接纳的行动，，将决议文明下一个阶段怎样睁开
。。。。。