AI巨头放缓先进模型开发“虚与实”：真“对齐”，还是真卷不动了？ | 每经热评

每经编辑｜金冥羽 魏官红    

每经评论员|杜恒峰

编辑|金冥羽 魏官红 易启江 校对|何小桃

刚刚过去的周末，OpenAI首席执行官奥尔特曼、Anthropic首席执行官阿莫代伊与xAI老板马斯克罕见站到同一阵线。三人均主张，放缓前沿大模型迭代，让模型与人类目标对齐，引入独立第三方完成安全评估，通过检查点后再解锁下一代训练。

安全与对齐是大模型发展到现阶段必须要回答的命题。今年以来，头部实验室在安全评测场景下多次出现突破沙箱、超出设定边界的行为，有研究员甚至因为担心先进模型“毁灭人类”而愤然辞职。大模型的技术特点，决定了人工智能“递归式自我改进”（RSI）会放大模型失控风险，现有安全测试已难以预判更高能力模型的危害，引入独立第三方、设置能力检查点、开放训练流程，填补了外部监督空白，能够有效减少AI发展带来的负外部性。

对齐工作需要企业持续投入，但直接的经济回报又十分有限；放缓前沿基座训练，能直接砍掉边际收益持续衰减的巨额算力开支，成本节约立竿见影。尽管业界巨头“安全”“对齐”的叙事有不少呼应者，但直接的商业回报才是更深层次的动机。

Anthropic的情况最能说明问题。今年5月，其ARR（年化营收运行率）为470亿美元，环比增速高达56%，但到了7月，这一增速已经回落至不足20%，尽管有token降价的因素，但市场认的始终是真金白银的收入。该公司推理业务已实现商业化可持续运营，季度营业利润转正，但继续冲击下一代超大基座模型将消耗巨量现金。今年10月，Anthropic就可能上市，其高达上万亿美元的估值，建立在持续高增长的基础之上。当ARR环比增速下台阶，以安全名义主动放缓前沿迭代，就能把增长减速解释为主动承担安全责任，这是精妙的资本叙事转换。

OpenAI同样如此。奥尔特曼近期也将推迟上市与AI安全绑定，但事实上，OpenAI不在今年上市的说法早已有之。OpenAI当前的ARR尚不足以覆盖全年算力支出，自建算力项目的巨额资本开支还要依靠微软、软银等外部主体通过特殊目的载体（SPV）承接；其收入中C端订阅占比更高、毛利率更低，训练下一代旗舰模型的财务压力更大。推迟IPO需要一个合理解释，“为了安全暂缓上市”是一个远比“现阶段数据还不够好”更有说服力的说辞。

放缓先进模型开发也有缓解“军备竞赛”困境的压力。大模型厂商的估值高度依赖模型的能力，模型越先进就越容易获得高估值，这也是巨头们乐于公布先进模型在破解数学难题、寻找网络安全漏洞等方面能力的原因。为了确保模型先进性，各大厂商被迫持续加码训练，即便堆参数、堆算力带来的边际回报在降低，只要对手不停，自己就不能停。单独一家主动减速会被解读为实力不足，但三家口径达成一致，就变成了行业层面的选择。

放缓先进模型开发，让资源得以从前沿预训练，转向Agent、代码模型、推理优化、行业应用这些投资回报率更高的方向。大模型厂商可以优化资本开支、引导资本市场预期。大模型商业化的竞争并未停止，只是从“比谁模型能力更强”转向“谁的回报更高”。大模型厂商放缓投资节奏，不可避免对上游硬件厂商产生影响，9月14日，中日韩股市半导体板块集体下挫。

但目前，这只是这三家公司的主观想法，在OpenAI和Anthropic身后，还有谷歌、Meta这样的互联网巨头，其主业利润丰厚、现金流充沛、融资空间巨大，有能力也有很强意愿继续大规模投入先进模型开发，以缩短模型能力差距。在大洋彼岸，中国大模型厂商也在大举融资，继续为模型开发储备资源。

“对齐”是大模型发展到一定阶段的必然要求，但竞争压力决定了先进模型开发很难放缓，“军备竞赛”仍将持续。

｜每日经济新闻  nbdnews  原创文章｜

未经许可禁止转载、摘编、复制及镜像等使用