「如果把人工智能比作核能，我们不能只允许少数科技亿万富翁掌握它的方向盘。」

在上周于拉斯维加斯举行的Ai4大会上，人工智能领域的三位殿堂级领军人物——诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、World Labs首席执行官李飞飞和Coursera联合创始人吴恩达（Andrew Ng）——罕见地齐聚一堂。

在这次备受瞩目的巅峰对话中，三位巨头共同向业界发出了强烈的呼吁：捍卫人工智能开发的开放性。

这一表态并非空穴来风。当下，主要的人工智能实验室正以安全隐患和激烈的商业竞争为由，日益加强对其模型的封闭与管控。一场关于AI未来究竟该走向「开放」还是「垄断」的暗战，正在硅谷乃至全球悄然上演。

权力集中：扼杀创新的温床

开放性为何如此至关重要？三位发言者的核心担忧高度一致：权力过于集中在少数几家巨头手中。

吴恩达直言不讳地警告道，如果未来人工智能的准入被少数几家公司把持，其结果必然是扼杀创新，并极大地限制这项技术的受益者范围 [cite: 吴恩达警告说，未来人工智能的准入将由少数几家公司把持，这将扼杀创新，并限制这项技术的受益者。]。他大力主张建立一个由多家供应商组成的充分竞争格局 [cite: 他主张建立一个由多家供应商组成的竞争格局]。

「如果要我提出一个建议，那就是提倡开放，因为人工智能是一项了不起的技术，我希望每个人都能用得上它，」吴恩达如是强调 [cite: 「如果要我提出一个建议，那就是提倡开放，因为人工智能是一项了不起的技术，我希望每个人都能用得上它。」]。

此外，吴恩达还将视野投向了更为复杂的地缘政治层面。他指出，如果中国在发展中地区广泛推广其开源AI模型，可能会潜移默化地影响数十亿人对于民主和人权理念的认知 [cite: 吴恩达还强调了地缘政治层面：如果中国的开源人工智能模型在发展中地区得到广泛应用，它们可能会影响数十亿人对民主和人权理念的理解。]。基于这种潜在影响，他敦促美国必须在开源人工智能领域提升自身的竞争力，以进行有效的抗衡 [cite: 他敦促美国在开源人工智能方面提升竞争力，以对抗这种影响。]。

开源权重与开源软件：关键的危险地带

虽然在大方向上保持一致，但在具体的「开放」定义上，图灵奖得主杰弗里·辛顿提出了一个关键的技术区别：开源软件（Open Source Software）与开放权重模型（Open Weights Models）。

辛顿赞赏传统的开源软件，认为它允许社区对代码进行审查，从而有利于社区成员共同修复漏洞 [cite: 杰弗里·辛顿明确区分了开源软件和开放权重模型。开源软件允许代码审查，他称赞开源软件有利于社区修复漏洞。]。

然而，开放权重则是另一回事。它意味着泄露已训练模型的参数，这会使得恶意行为者能够极其容易地对模型进行微调，进而将其用于网络攻击等有害目的 [cite: 然而，开放权重会泄露已训练模型的参数，使恶意行为者更容易对其进行微调，用于网络攻击等有害目的。]。「我反对开放权重，因为它让人们很容易就能利用那些训练成本极高的基础模型，以更低的成本训练它们去做坏事，」辛顿如是警示 [cite: 「我反对开放权重，因为它让人们很容易就能利用那些训练成本极高的基础模型，以更低的成本训练它们去做坏事，」辛顿说道。]。

尽管表达了强烈的担忧，辛顿也无奈地承认，关于开放权重的争论实际上已经失败了 [cite: 然而，欣顿承认，关于开放权重的争论已经失败了]。他接受了这一现实：既然开放权重模型已经存在，那么之前阻碍许多人获得这些大型模型的高昂训练成本障碍已经不复存在 [cite: 「我认为这场争论已经结束了。我们现在有了开放权重模型，因此，之前阻碍许多人获得这些大型模型的障碍——训练基础模型的成本——已经消失了。」 他接受了这一现实，但仍然呼吁制定监管措施，引导人工智能朝着有益的方向发展。]。在此基础上，他依然坚持呼吁制定相应的监管措施，以引导AI技术朝着有益于人类的方向发展 [cite: 他接受了这一现实，但仍然呼吁制定监管措施，引导人工智能朝着有益的方向发展。]。

寻找「微妙的中间立场」

面对当前非黑即白的争论氛围，李飞飞则反对将这场辩论框定为完全开放与完全封闭之间的二元选择 [cite: 李菲菲反对将这场辩论框定为完全开放与完全封闭之间的二元选择。]。

她巧妙地借用了核物理领域的例子来进行类比：科学论文可以公开发表，铀元素受到严格管制，而实验室的具体工作则介于两者之间 [cite: 她以核物理为例，指出科学论文可以公开发表，铀受到管制，而实验室工作则介于两者之间。]。这意味着，人工智能生态系统的不同层面，完全可以并且应该采用不同的开放程度 [cite: 李菲菲强调，人工智能生态系统的不同层面可以采用不同的开放程度]。

李飞飞进一步以人类基因组计划为例，指出开放知识既是科学进步的强大平台，也是商业创新的坚实平台 [cite: 并以人类基因组计划为例，指出开放知识既是科学进步的平台，也是商业创新的平台。]。她总结道：「我们需要一定程度的开放，无论是在科学发现、教育、全球合作，还是为企业家提供有利可图的商业模式方面。但我们也接受闭源系统。这种争论，尤其是‘我们只能容忍一种’这种过于笼统的说法，是错误的 [cite: 李说：「我们需要一定程度的开放，无论是在科学发现、教育、全球合作，还是为企业家提供有利可图的商业模式方面。但我们也接受闭源系统。这种争论，尤其是‘我们只能容忍一种’这种过于笼统的说法，是错误的。」]。」

结语：监管与创新的平衡之道

尽管三位巨头在风险管理的具体细节和技术路径上存在细微分歧，但在此次Ai4小组讨论中，他们达成了一个核心共识：人工智能的未来绝不应由少数几家公司全权掌控 [cite: Ai4 小组讨论凸显了顶尖研究人员日益达成的共识：人工智能的未来不应由少数几家公司掌控。]。

他们一致主张建立一个更加开放、充满竞争且具备适当规范的生态系统——一个既能最大限度地发挥人工智能巨大优势，又能妥善解决合理安全担忧的生态系统 [cite: 尽管 Hinton、Li 和 Ng 在风险管理方面存在分歧，但他们一致主张建立一个更加开放、竞争和规范的生态系统——一个既能最大限度地发挥人工智能优势，又能解决合理担忧的生态系统。]。

对于政策制定者而言，关键在于清醒地认识到开放性和安全性并非相互排斥的对立面 [cite: 对政策制定者而言，关键在于开放性和安全性并非相互排斥。]。采取多层次的方法——既要鼓励开放研究，又要采取有针对性的保障措施——既能有效保护创新，又能最大限度地降低潜在风险 [cite: 采取多层次的方法——既要鼓励开放研究，又要采取有针对性的保障措施——既能保护创新，又能降低风险。]。

随着人工智能以前所未有的速度渗透到人类社会的各个领域，这场关于「开放」的世纪辩论，不仅将深刻影响技术的演进方向，更将重塑未来的全球权力格局。

FAQ

问题一：开源人工智能和开放权重模型有什么区别？

简而言之，开源人工智能不仅公开模型的训练参数（权重），还会公开底层的源代码，允许公众完整地查看、修改和重新分发代码。而开放权重模型则只公开了模型训练后的参数，允许其他人在没有原始训练数据或代码的情况下对模型进行微调（fine-tuning）。虽然开放权重降低了使用门槛，但批评者认为由于缺乏完整代码，它更容易被恶意行为者利用相对较少的资源进行有害用途的微调 [cite: 开源人工智能会公开底层代码供公众查看和修改，而开放权重模型则会公开模型的训练参数（权重），允许其他人在没有原始训练数据或代码的情况下对其进行微调。开放权重更容易被滥用，因为只需相对较少的计算资源即可被用于有害目的。]。

问题二：为什么像杰弗里·辛顿这样的专家会反对开放权重模型？

杰弗里·辛顿等专家的核心担忧在于，开放权重模型极大地降低了恶意行为者创建危险人工智能应用的门槛。由于训练一个强大的基础模型需要极其昂贵的天价成本，而开放权重使得任何人都能以极低的成本在这个昂贵模型的基础上进行二次开发和微调，这使得别有用心之人可以更容易地构建用于网络攻击、虚假信息传播或其他有害活动的AI应用，从而导致这项技术难以被有效控制 [cite: 像杰弗里·辛顿这样的批评者担心，开放权重模型会降低恶意行为者创建危险人工智能应用（例如网络攻击）的门槛，因为他们可以用极低的成本在昂贵的基础模型上构建应用。这使得控制这项技术的使用变得更加困难。]。

问题三：人工智能如何在保持开放性的同时确保安全性？

李飞飞提出了一种细致入微的解决方案，即不应将人工智能生态系统视为一个整体，而是将其划分为不同的层面——如研究、应用和基础设施层。这些层面可以实施不同程度的开放性。这类似于核物理学领域在促进开放科学研究与对危险物质（如铀）进行严格监管之间取得的平衡。这种多层次的方法既能促进前沿创新和全球合作，又能在必要时为关键环节提供强有力的保障措施 [cite: 李飞飞提出了一种细致入微的方法，即人工智能生态系统的不同层面——研究、应用和基础设施——可以采用不同程度的开放性，类似于核物理学如何在开放科学与监管之间取得的平衡。这样既能促进创新，又能在必要时提供保障。]。