GLM-5 by Z.ai：缩小了在代理编码方面差距的 744B 开放权重 MoE 模型

Lisa Ernst · 21.02.2026 · 人工智能 · 9 分钟

AI 的发布层出不穷，但只有少数能真正推动“我们能用它实际交付什么？”的界限。 GLM-5 来自 Z.ai （智谱AI/知识图谱技术）是其中之一：一个 模型，在 MIT 许可 下发布，目标明确—— 代理工程 ，即长周期任务，如调试、重构、工具协调和全网规模的研究。 这标志着一个重要的里程碑：智谱AI于2026年初在香港上市，而GLM-5的发布正值中国AI实验室激烈竞争的周期。

来源: GLM-5 定位为“代理工程”模型：长上下文、工具使用和软件工作，而不仅仅是聊天质量。

快速摘要：为什么 GLM-5 很重要（以及它不是什么）

• MIT 开源权重： 模型权重可用于商业用途（在此性能水平下非常罕见）。
• 代理优先设计： 针对长周期任务（代理、工具调用、仓库工作）进行调优。
• 庞大的 MoE 规模： 总计 744B 参数 每 token 激活 40B
• 专家路由细节： 总共 256 个专家 ，每 token 路由 8 个专家 （加上共享专家），优化以减少通信开销。
• 长上下文： 支持高达 200K 个 token，由 DeepSeek Sparse Attention (DSA).
• 强大的编码+代理能力： 主要得分包括 SWE-bench Verified 上的 77.8 和 Terminal-Bench 2.0（已验证版本）上的 56.2 / 60.7 。
• 可靠性提升： Artificial Analysis 报告称，在 AA-Omniscience 上达到了 -1 （幻觉减少），这主要归功于更好的放弃回答行为。 2.0（已验证版本）。
• 重要限制： GLM-5 仅支持文本（不支持原生图像输入）。
• 现实检验： 原生 BF16 权重非常巨大（约 1.49 TB 内存占用）；大多数人会使用 FP8 或 API。

为什么 GLM-5 很重要：能力、开放性和硬件策略

大多数“前沿”性能都隐藏在专有 API 之后。GLM-5 之所以有趣，是因为它试图结合三件事： (1) 高端代理性能 在公共基准测试上, (2) 开放可用性 （在许可协议下），以及 (3) 非 NVIDIA 生态系统就绪性 （Z.ai 声称在多个国内芯片平台上实现了全栈优化；路透社也报道了在中国制造的芯片上进行推理，包括华为昇腾等）。

如果您是开发者或构建工具的团队，其价值显而易见： 开放权重模型是深度定制、本地部署和可重复评估的唯一实际途径。但 GLM-5 的“开放”故事带有一个警告：它虽然是开放权重，但体积极其庞大——这意味着部署成本决定了谁能真正本地使用它。

基准测试计分卡：人们引用的数字（及背景）

以下是基于 GLM-5 官方模型卡基准测试的简洁计分卡（与 DeepSeek-V3.2、Kimi K2.5、Claude Opus 4.5、Gemini 3 Pro 和 GPT-5.2 变体比较的同一表格）。 关键：查看哪些基准测试与您的工作负载相匹配。

关键基准测试结果（GLM-5 vs. 选定的前沿模型）

为什么评测设置很重要（以及 GLM-5 的作者披露了什么）

一个有用的细节：GLM-5 模型卡包含了评估说明（框架、超时、上下文大小）。 例如，SWE-bench 使用 OpenHands 和定制提示，Terminal-Bench 通过 Terminus 在 CPU/RAM 限制下运行。他们还发布了一个“已验证”的 Terminal-Bench 2.0 数据集，以解决指令模糊和环境问题——而这正是使结果更具操作性的透明度。

架构：744B MoE + DSA 长上下文（200K tokens）

GLM-5 是一个专家混合（MoE）模型：总容量巨大，但每个 token 只有一小部分被激活。 技术报告描述 GLM-5 拥有 744B 的总参数，激活 40B。 同一报告列出了 256 个总专家，每 token 路由 8 个专家，并且架构经过优化，以减少专家并行开销（例如，与前代相比层数更少）。

长上下文不仅仅是“更多的 token”：它需要架构和数据更改，以避免注意力质量的下降。 GLM-5 集成了 DeepSeek 稀疏注意力（DSA），以在高长上下文容量的同时降低计算成本。在技术报告的框架下，DSA 添加了一个索引器，该索引器检索 top-k 键值对，并在此子集上进行稀疏注意力计算——这种设计在不牺牲长距离理解能力的情况下，提高了训练和推理效率。

“Slime”：用于扩展代理 RL 的训练后基础设施

来源: thudm.github.io

Slime 被描述为一种异步强化学习基础设施，它将 rollout 生成与训练解耦，旨在在没有同步瓶颈的情况下扩展代理 RL。

营销口号是“异步 RL”，但更深层次的点在于基础设施：扩展代理训练后通常会受到同步和 rollout 吞吐量的瓶颈。 GLM-5 报告描述了一个将生成与训练解耦的管道，提高了 GPU 利用率，并允许更广泛地探索代理轨迹。此外，他们提出了异步代理 RL 算法，旨在提高长周期交互中的规划和自我纠错能力。

这是模型在独立环境中编写良好代码与在真实系统的混乱环境中生存下来的区别： 工具输出是杂乱的，中间步骤会失败，并且代理必须在多个回合中保持状态。GLM-5 的作者使用 Vending Bench 2 等长周期评估明确衡量了这一点。

可靠性：通过更好的放弃回答来减少幻觉

幻觉是“代理生产力”的无声杀手。如果代理自信地凭空捏造函数签名或 API 行为，您就会陷入昂贵的调试循环和脆弱的自动化。 Artificial Analysis 报告称，GLM-5 在其 AA-Omniscience 指数上达到了 -1，这被描述为相较于 GLM-4.7 的重大改进。重要的细微差别：这种改进似乎伴随着更多的放弃回答（模型更愿意说“我不知道”，而不是猜测）。

成本与可访问性：开放权重，昂贵的现实

GLM-5 在许可条款上是“开放的”，但它仍然是一个前沿规模的模型。 Artificial Analysis 估计，以原生 BF16 存储权重需要大约 1,490 GB 内存——这实际上将真正意义上的本地托管限制在拥有大规模 GPU 集群的组织。这就是为什么生态系统的重点在于 FP8 版本和第三方推理提供商。

如果您正在评估 GLM-5 用于生产环境，有三种实际的途径：

1. API 优先 （Z.ai 第一方或第三方提供商）：最快的价值实现，最容易扩展。
2. FP8 本地托管 （适用于拥有 GPU 基础设施的团队）：在成本和性能之间取得了很好的平衡。
3. BF16 本地托管 （罕见）：最高保真度，最高硬件负担。

本地部署 GLM-5（最少、实用的建议）

官方模型卡列出了支持的推理栈，包括 vLLM 和 SGLang。 如果您想要一个快速的“它在我的环境中是否有效？”的验证，请从 FP8 权重和单个 OpenAI 兼容端点开始。

# 示例：vLLM（夜间版）+ 最新 Transformers（根据模型卡指南）
pip install -U vllm --pre --index-url https://pypi.org/simple --extra-index-url https://wheels.vllm.ai/nightly
pip install git+https://github.com/huggingface/transformers.git

# 示例：通过 Docker 使用 SGLang（查看模型卡中的标签和硬件说明）
docker pull lmsysorg/sglang:glm5-hopper

GLM-5 在“聊天质量”（Chatbot Arena）方面如何比较

SWE-bench 或 Terminal-Bench 等基准测试可以告诉您工程能力。但纯粹的对话偏好呢？ 在 GLM-5 得分 1455±8 ，总体排名大约在排名前 15 的模型之列。排行榜的顶端仍然被 Claude Opus 4.6 等专有系统主导。

翻译：GLM-5 不仅仅是一个“数字模型”。它在通用聊天方面也非常强大—— 但其决定性优势仍然是代理工程+开放性，而不是成为 Elo 排行榜上最好的聊天模型。

谁应该使用 GLM-5（以及谁不应该）

如果您……，GLM-5 是一个不错的选择

• 构建开发者工具、编码代理或运行多个步骤的内部自动化。
• 需要基于宽松许可的开放权重进行定制或本地部署。
• 关注长上下文工作流程（多文件代码库、大型文档、长对话记录）。
• 希望模型在面临高风险领域时更倾向于放弃回答而不是产生幻觉。

如果您……，GLM-5 不太理想

• 需要原生多模态输入（图像）——GLM-5 仅支持文本。
• 希望在消费级硬件上轻松本地安装（BF16 模型非常庞大）。
• 只需要随意聊天；更小的模型或更便宜的端点可能更具成本效益。

结论

GLM-5 是“开放权重”模型可以在代理工程领域成为可信竞争者的最清晰信号之一—— 不是通过在每个指标上匹配每个前沿模型，而是通过专注于对真实系统很重要任务：长周期行为、工具协调和软件工作。最有力的论点不是单个基准测试分数——而是 MoE 规模、长上下文 DSA 和旨在产生稳定代理行为的代理 RL 基础设施的结合。

如果您正在选择一个用于构建产品而非演示的模型，GLM-5 值得认真评估——特别是如果开放许可和代理工作流程是您路线图的核心。

常见问题解答（FAQs）