中国 AI 的“入侵”为企业提供了控制成本的新方式

至少从表面上看，这些开放权重模型比美国同类专有模型便宜得多。

至少从表面上看，这些开放权重模型比美国同类专有模型便宜得多。

你可以在一台笔记本上运行中国 AI 模型。这些模型强大、能干、需求旺盛，并有助于解决一个业务问题：AI token 的开支。

这正在改变 AI 服务的经济性，并给前沿模型带来竞争压力。

Anthropic 在周一发布的 IPO 招股书中表示，随着各种模型大量涌现，“客户可能会认为，前沿的边际性能提升不再物有所值。”

在 OpenRouter 的全球统计中，截至 10 月 25 日的一周内，中国 AI 模型占其所报告 token 量的一半以上。而在约一年前，该网站每周用量榜上列名的九个模型中只有一个中国模型。OpenRouter 通过单一 API 提供对多个 AI 模型的访问。

开源企业软件提供商 Red Hat 为其内部使用，正在试点自托管版本的 GLM——北京 Z.ai 的一个开放权重模型。中国科技巨头阿里巴巴广受欢迎的 Qwen 模型也在较小规模上可用。

Red Hat CTO 办公室杰出工程师兼副总裁 Stephen Watt 说，工程师起初对开放权重模型能否与专有前沿模型一样能干心存疑虑。但他们发现，这些模型已经“足够好”。

Watt 表示，主要来自中国的开放权重模型，在某些用例中的效能已达到与 Anthropic Opus 4.6 相当的水平。他说，工程师们曾对放弃前沿模型有所顾虑，但 Red Hat 的使用数据表明，开放权重模型对许多任务已经够用。

“在 AI 之旅的起点，不用前沿模型才是疯了；但过了一段时间，还赖在前沿模型上同样是疯了，因为它会吃掉你所有的利润率，”Watt 说，指的是大多数闭源模型相对高昂的成本。

业务用户、工程师和开发者可以根据 AI 模型的能力分配工作负载。他们可以在封闭环境中内部托管模型。但一些人对使用中国模型心存顾虑，尤其是出于地缘政治因素，这正在推高对美国开发模型的兴趣。

对中国模型的顾虑（如果存在的话）通常源于地缘政治担忧。Watt 说，这正在积攒对西方开发的开放权重模型——例如 Meta 和 Reflection AI 开发的模型——的被压抑需求。

AI 学习平台 DataCamp 被约 6000 家组织使用，最近一个月其 AI 导师分析了约 140 万小时的学习数据。该平台一直在评估 Gemma 4——Google 的一个开放权重模型——用于辅导。联合创始人兼 CEO Jonathan Cornelissen 表示，中国模型对某些政府和企业用户可能是个问题。

但 Cornelissen 说，目前开放权重模型的主要限制是基础设施。运行开放权重模型的服务商无法以所需的速度和规模交付它们，他说延迟不具竞争力。有些有速度但容量不足，有些则响应时间不达标。

目前，DataCamp 正在从 Anthropic 转向 OpenAI——Cornelissen 认为后者成本更低。它尚未把其 AI 导师迁移到开放权重模型。

芝加哥 Beermann LLP 律师、网络安全咨询公司 Steele Fortress 创始人 Jonathan Steele 在 MacBook Pro 上本地运行 Qwen 模型，用于计费和其他敏感任务。其他工作他也使用 Claude 和 ChatGPT。

开放权重模型的经济性可能很有说服力，但其实用性取决于基础设施和输出质量。

成本比较并不直观。如果一个开源模型可能花半小时生成草稿、但需要五小时的律师审阅，而一个前沿模型可能 15 分钟起草、30 分钟修订，那就很难判断哪个更贵。

但一些公司，比如 Red Hat，正在找到从中国模型中获取价值的方法。其 Z.ai 试点项目的使用者多达 1400 名工程师，其中约 70% 的推理流量流向开放权重模型。工程师有一个使用前沿模型的预算，并根据要完成的工作在开放权重模型与专有模型之间分配。

对 Red Hat 而言，控制成本是关键动因。前沿模型支出一度无节制增长。随着开放权重模型的到来，工程师被限制为每人每月 300 美元的配额，以促使他们为任务选择合适的模型。

这些配额是试验性的，工程师可以向经理申请例外。Watt 说，外部托管模型的成本已经从失控到趋平，如今进入“急剧下降”阶段。

展望未来，涉及中国 AI 模型的地缘政治问题……（原文正文在此截断）