Anthropic CEO达里奥·阿莫迪近日发出“放慢前沿AI发展速度”的呼吁后，AI行业罕见地出现了由头部实验室掌舵者共同参与的安全讨论。
OpenAI CEO萨姆·奥尔特曼、Google DeepMind CEO德米斯·哈萨比斯以及xAI创始人埃隆·马斯克相继表示支持。
与此同时，英伟达CEO黄仁勋、Meta CEO马克·扎克伯格、前白宫AI事务负责人戴维·萨克斯、图灵奖得主杨立昆等人则从不同角度表达质疑，美国总统特朗普也明确反对让AI发展速度受到约束。
这场争论的核心并不是AI究竟有没有风险，而是一个更现实的问题：当AI能力增长速度已经超过人类对其行为的理解和控制能力时，行业应该主动放慢速度，还是继续推进技术发展，同时通过安全研究解决风险？如果决定放缓速度并开始制定相关行业标准，又要如何平衡参与方自身利益与公共利益之间的关系？
一切都还没有答案。
安全能力需要追上模型能力
本轮讨论由AnthropicCEO达里奥·阿莫代伊在《We Must Pace the Frontier》一文中发起。他提出，AI前沿能力迭代速度已经快于安全研究的追赶节奏，警示若自主AI智能体持续快速演进，未来6-12个月极端情形下或出现大规模自主系统接管互联网、酿成重大损失的风险，应当预留时间给安全研究跟进，而非事故发生后再补救。
同时他也强调，放缓不等于停止研发，要实现能力提升与安全措施同步落地。他倡议效仿美国金融业监管局，由美国牵头设立前沿AI标准机构，引入独立第三方，针对网络安全、生物风险、模型欺骗、绕过防护等高风险维度开展模型测试。Anthropic承诺向第三方评估机构开放接近员工级别的系统访问权限，核验安全举措。
奥尔特曼随后公开支持这一方向，并承诺OpenAI也将允许独立评估人员以类似员工的权限进入公司检查安全实践。
宣布暂停IPO、强调AI安全风险后，奥尔特曼再次发文称，当下AI能力提升曲线陡峭，社会需要建立对美国前沿AI企业负责任研发的信心；每家前沿实验室都必须履行安全承诺。
他称，OpenAI已经将安全工作前移，在开展有可能大幅提升模型能力的前沿强化学习实验启动之前，就要制定完整安全方案，而不是只在发布前补做安全审查。同时呼吁其他前沿实验室参考这套做法，各家输出自身方案；推动行业在对齐、监控、安全领域建立共享标准与最佳实践，开展同业合作。
奥尔特曼并没有把安全问题限定在OpenAI内部。此前接受媒体采访时，他暗示OpenAI与其他领先AI公司可能很快就安全问题展开更正式的合作。
哈萨比斯也表示，阿莫迪提出的方向是正确的，只是具体细节仍需要进一步讨论；马斯克则直接表示阿莫迪是正确的。
这形成了AI产业现象级一幕：Anthropic、OpenAI、Google DeepMind和xAI的掌舵者，在一个长期高度竞争的领域中，就“前沿AI发展速度需要受到一定约束”形成了公开共识。行业将其形容为四家主要AI实验室在短短数小时内罕见地站到了同一边。
支持者的逻辑并不是否定AI带来的巨大经济价值。
哈萨比斯在文章中称，AGI可能只需几年时间，并可能产生远超互联网和移动通信的影响；但正因为技术潜在影响如此巨大，网络安全、生物风险以及未来具备递归自我改进能力的智能体风险才需要提前处理。
硅谷投资人加文·贝克表示，过去24小时对AI行业来说可谓风云变幻，各种提案层出不穷。唯一切实的方案是引入第三方评估人员，且相关人员必须与任何实验室之间无关联。
多元观点背后的利益牵扯
另一边，质疑声同样迅速出现。
有消息称9月14日，黄仁勋在洛杉矶参加All-In Summit时，现场与特朗普通话。当时台上讨论的正是阿莫迪提出的“放慢AI发展速度”。
特朗普反驳了AI恐慌，黄仁勋随即回应：“我们不会让这（AI减速）发生”。
杨立昆则重新翻出了2019年GPT-2的争议。当时阿莫迪仍在OpenAI，OpenAI以模型可能被滥用等理由，未一次性公开参数规模最大的GPT-2。杨立昆近日对此嘲讽称，阿莫迪当年就认为GPT-2太危险，而自己当时曾对此表示嘲笑，“现在大家也应该嘲笑他们”。
这并不意味着杨立昆否认AI安全问题，他对灾难性AI风险保持怀疑，并警惕安全叙事最终演变成对模型开放、技术创新和市场竞争的限制。
争论还牵涉一个更现实的利益结构。Anthropic正在筹备IPO，在这样的时间节点，要求政府建立前沿AI标准、允许头部实验室协调发展节奏，很容易引发“监管俘获”的质疑。因为越高的安全门槛，可能越有利于已经拥有巨额算力、数据、人才和合规资源的大公司，而增加初创企业、开源社区和学术机构进入前沿模型竞争的成本。行业认为，这正是硅谷批评者质疑此次安全倡议的重要原因之一。
因此，这场观点分裂的背后实际上存在至少三层不同利益。
第一是安全与技术竞争之间的矛盾。前沿实验室直接面对模型失控、网络攻击、生物风险等潜在后果，因此更需要强调安全；芯片公司、投资者以及政策制定者则更关注算力投资、产业增长和美国技术领先。
第二是安全治理与市场竞争之间的矛盾。统一标准、第三方审计和强制测试可以降低风险，却也可能提高进入门槛。尤其当制定规则的人本身就是最强大的几家模型公司时，“安全标准”是否会进一步固化行业集中度，成为不可回避的问题。
第三则是全球协调困境。如果所有前沿实验室都同步放慢，安全收益可能较大；但如果只有部分公司或部分国家减速，竞争对手可能继续推进。这实际上构成了一个典型的囚徒困境，也是为什么阿莫迪、奥尔特曼等人越来越强调行业共同标准，而特朗普、萨克斯等人则担心这种协调会削弱美国竞争优势。
因此，目前AI行业真正出现的并不是简单的“支持派”和“反对派”，而是两种不同的风险判断：一方认为前沿AI已经快到必须给安全机制留出追赶窗口；另一方则认为，放慢本身可能产生新的战略风险，而且由头部实验室主导的安全规则可能演变成行业壁垒。
这也是这轮争论最值得关注的地方。AI安全正在从实验室内部的技术问题，迅速转变为一个同时涉及产业竞争、资本市场、国家安全、反垄断和国际治理的问题。未来真正的分歧可能不在于“要不要安全”，而在于：谁制定安全标准、谁拥有暂停能力，以及当安全与竞争发生冲突时，究竟应该牺牲哪一边。
东财图解·加点干货
满瑞网提示：文章来自网络，不代表本站观点。
