“人工智能最危险的时刻，不是它变得聪明，而是人类无法判断它是否仍在按照自己的意图行动。”

围绕开源人工智能的监管争论正在升温。

Anthropic 创始人兼首席执行官 Dario Amodei 近日公开回应外界猜测，明确表示公司从未主张全面禁止开源人工智能模型。

但与此同时，他也提出了一个更具争议的问题：

如果未来的AI模型拥有接近甚至超过人类专家的能力，当这些模型被复制、传播，甚至被不受限制地部署时，人类是否还能有效控制它们？

这场争论的核心，已经不只是“开源还是闭源”，而是人工智能快速发展之后，安全边界应该如何定义。

一场关于AI开放路线的分歧正在形成

过去几年，人工智能行业形成了两条明显路线。

一边认为，开放模型能够推动技术创新。

开源人工智能可以让更多企业、研究人员和开发者参与其中，降低技术门槛，同时帮助更多人理解模型运行机制。

另一边则担心，随着模型能力不断增强，开放权重可能让高风险技术更容易被滥用。

Dario Amodei 的最新表态实际上试图在两者之间寻找平衡。

他表示，不具备危险能力的开源模型本身是一种公共产品，可以为企业和研究人员创造巨大价值。

但他担忧的是，当人工智能系统具备更强能力后，如果被专制政府或恶意组织利用，可能会带来军事、生物安全以及社会控制方面的问题。

换句话说，Anthropic关注的并不是“开放”本身，而是“开放之后是否还能管理风险”。

开源模型、模型蒸馏与芯片限制，成为新的科技竞争焦点

值得注意的是，这场争论背后还有更复杂的产业竞争。

近年来，美国人工智能企业不断关注中国AI实验室的发展速度。

其中一个重要争议，就是“模型蒸馏”。

简单理解，模型蒸馏是一种通过大量输入输出，让一个模型学习另一个模型能力的方法。

这种技术本身属于人工智能领域常见方法，但部分美国企业和官员认为，一些中国人工智能实验室可能利用类似方式获取先进模型能力。

对此，Amodei呼吁建立更明确的规则，对可能存在的知识产权滥用行为进行限制。

同时，他也继续支持限制高性能AI芯片出口。

在他看来，先进计算资源和先进模型能力之间存在直接联系，因此芯片限制成为美国人工智能战略的重要组成部分。

不过，开源阵营对此持不同观点。

包括英伟达、Meta、微软、Hugging Face以及Mistral等企业此前曾公开表达，不应过早通过大范围限制影响开源生态发展。

他们认为，开放模型不仅能够促进创新，也能帮助更多研究人员发现漏洞，提高整体安全水平。

AI安全真正的难题：控制模型，还是改变模型？

这场争论背后，其实隐藏着人工智能领域长期存在的问题——“AI对齐”。

所谓AI对齐，指的是让人工智能系统真正理解并遵循人类目标。

目前，行业主要有两种思路。

一种方式是加强外部控制。

比如增加安全测试、限制权限、建立监控系统，让模型即使出现异常行为，也无法造成严重影响。

另一种观点认为，仅靠外部防护并不足够。

如果模型本身存在规避限制、欺骗用户或者追求目标最大化的倾向，那么任何外围防护都有可能被突破。

Amodei在文章中提到，人工智能风险不仅包括网络攻击，还可能涉及生物安全等更加严重的问题。

他引用相关研究指出，一旦高能力开源模型发布，就很难重新收回控制权。

这也是支持严格监管人士最担心的问题。

因为传统软件出现漏洞，可以通过更新版本修复。

但一个已经传播出去的高能力AI模型，可能无法简单“下架”。

全球AI安全测试，正在成为新的共识方向

虽然围绕开源存在分歧，但Amodei提出了一个相对一致的方向：全球范围内建立人工智能安全测试体系。

他认为，有效的AI安全评估不能只由单一国家完成，而需要包括中国在内的多个国家参与。

原因很简单。

人工智能模型不会受到地理边界限制。

一个模型一旦进入全球生态，其影响也可能跨越国家范围。

Amodei表示，在防止人工智能被用于生物攻击等高风险领域时，各国仍然存在合作空间，因为这符合所有参与方的利益。

这一观点也反映出当前AI治理的新现实：

竞争与合作可能会同时存在。

各国可能争夺AI技术优势，但在风险控制方面，又需要一定程度的信息共享。

真正值得关注的，不是开源还是闭源

说到底，开源AI争论并不是简单的技术路线之争。

它背后实际上是一个更大的问题：

当人工智能能力快速增长，人类是否拥有足够成熟的治理能力？

支持开源的人担心，过度监管可能限制创新，让少数大型企业掌握人工智能话语权。

支持严格监管的人则担心，技术扩散速度超过安全能力建设，最终可能带来无法控制的风险。

目前来看，Anthropic的立场并不是全面关闭开源，而是在高能力模型领域寻求更严格的安全边界。

未来，人工智能行业可能不会简单走向完全开放，也不会完全封闭。

更可能出现的是分层监管：

低风险模型保持开放，高风险模型接受更多测试和限制。

AI竞争进入“能力之外”的时代

Anthropic此次回应释放出一个明确信号：

人工智能行业的竞争，已经不只是模型性能竞争。

未来几年，比拼的可能还有安全体系、治理能力以及全球协调能力。

真正的问题不是人工智能是否应该开放，而是当AI越来越强大时，人类是否能够同步建立足够可靠的控制机制。

随着模型能力继续提升，开源与安全之间的平衡，将成为全球科技产业无法回避的问题。

FAQ

Q1：Anthropic是否支持禁止开源人工智能模型？

不是。Anthropic CEO Dario Amodei表示，公司并未主张全面禁止开源AI模型。他认为，没有危险能力的开源模型可以作为公共资源推动创新，但对于具备高风险能力的模型，需要更加严格的安全评估和管理机制。

Q2：为什么人工智能开源会引发安全担忧？

主要原因在于，高能力AI模型一旦公开传播，就很难重新收回控制。如果这些模型被用于网络攻击、生物安全风险或其他恶意用途，传统的软件安全管理方式可能难以及时应对，因此部分研究人员呼吁加强监管。

Q3：什么是AI模型蒸馏？为什么受到关注？

模型蒸馏是一种让较小模型学习大型模型能力的方法，通过大量交互数据提升模型表现。该技术本身属于AI研发工具，但部分企业担忧其可能被用于未经授权复制先进模型能力，因此成为当前人工智能竞争中的重要争议点。