Qwen3.8-27B 的 Benchmark 原表照搬:两张表 25 行与确切出处

2026-08-16

网上关于 Qwen3.8-27B 的评测数字,转来转去很快就会变形:有人只贴分数不写评测集,有人把两张表拼成一张,有人把一位小数四舍五入成整数,还有人顺手加了一列别处的数字。这篇不做任何加工,只做一件事——把 Hugging Face 仓库 Qwen/Qwen3.8-27B 的 model card 里 ## Benchmark Results 一节的两张表原样搬过来,并把每一行在 README.md 里的行号标出来,让你自己能翻回原文核对。

先把这两张表的身份说清楚:表里所有数字都是 model card 自述的评测结果,也就是 Qwen 团队自己贴出来的。我们没有下载权重、没有部署、没有推理过一个 token,更没有复现过任何一项评测,评测方法与环境一律以官方说明为准。表中「Qwen3.6-27B」「Qwen3.7-Plus」「Muse Glimmer-30B」「Opus4.6 Max」这四列,也是 model card 自己选的对比列,不是我们做的对比。

两张表在文件里的位置

我们采集的是快照 1d4bf0f,核对日 2026-08-16。这份 README.md 在我们快照里原始体积 65,012 字节、583 行、换行符全为 CRLF。两张表的位置如下(行号均为我们实读的行号):

位置行号
## Benchmark ResultsREADME.md:56
### Text PerformanceREADME.md:58
内联 <style>README.md:59README.md:68
表一 <table>README.md:70README.md:174
表一脚注 <ol>(8 条)README.md:176README.md:185
### VL PerformanceREADME.md:189
表二 <table>README.md:191README.md:210
表二脚注 <ol>(8 条)README.md:212README.md:221
下一节 ## QuickstartREADME.md:225

有一点值得先说:这两张表在 model card 里是原生 HTML <table>,不是 Markdown 表格README.md:70README.md:191)。所以你如果想用普通的 Markdown 解析器去抓表格,会一无所获,得按 HTML 解析。下面我们转写成 Markdown 只是为了可读,数字、行名、列名、脚注一字未改。

表一:Text Performance

出处 README.md:70README.md:174,列名照抄 README.md:72加粗表示原表该单元格带 <strong> 标签;-- 是原表原样的写法。

能力/评测集Qwen3.8-27BQwen3.6-27BQwen3.7-PlusMuse Glimmer-30BOpus4.6 Max
Coding(分组行,README.md:74
Agentic terminal coding/Terminal Bench 2.1 (Terminus)73.063.464.051.778.2
Agentic coding/SWE-bench Pro61.753.557.651.253.4
Repo-level code generation/NL2Repo-Bench42.336.241.147.6
Agentic coding/DeepSWE 1.142.213.314.2
Software engineering/QwenSWEBench79.049.359.263.8
Agent(分组行,README.md:115
Long-horizon office work/CoWorkBench70.761.065.168.2
Professional job tasks/JobBench33.421.827.6
Frontier agentic tasks/Agents’ Last ExamPass@1 20.4/Score 42.9Pass@1 10.6/Score 27.3Pass@1 13.2/Score 33.6
General(分组行,README.md:140
Instruction following/IFBench79.569.179.177.062.5
Scientific reasoning/GPQA Diamond89.287.890.383.591.3
Multidisciplinary reasoning/HLE30.824.034.722.040.0
Competitive coding/LiveCodeBench v690.383.989.688.8

逐行行号,方便你回原文核对:Terminal Bench 2.1 (Terminus) = README.md:7681SWE-bench Pro = 8489NL2Repo-Bench = 9297DeepSWE 1.1 = 100105QwenSWEBench = 108113CoWorkBench = 117122JobBench = 125130Agents' Last Exam = 133138IFBench = 142147GPQA Diamond = 150155HLE = 158163LiveCodeBench v6 = 166171

表一的 8 条脚注(原文照抄,README.md:177README.md:184

  1. SWE-bench Pro: Except for Opus4.6 Max, which uses the officially reported score, all models are evaluated with the Claude Code harness at temp=1.0, top_p=0.95, and a 256K context window. Problematic tasks were corrected, and all baseline models were re-evaluated on the refined benchmark.
  2. NL2Repo-Bench: Evaluated with the Claude Code harness. To prevent reward hacking, we disable Bash commands that attempt to access the specific repository, such as pip download, pip install, and git clone.
  3. DeepSWE 1.1: Evaluated with the Claude Code harness at temp=1.0, top_p=0.95, and a 256K context window.
  4. QwenSWEBench: In-house coding benchmark for evaluating models’ software engineering capabilities. Evaluated with the Claude Code harness. Reporting avg@3 with an 8-hour timeout, max_tokens=32,768, temperature=1.0, and a 256K context window.
  5. CoWorkBench: In-house cowork benchmark for evaluating long-horizon tasks across computer science, finance, law, medical, and other productivity domains.
  6. HLE: Judged by GPT-4o.
  7. The best result in each row is shown in bold.
  8. Empty cells (—) indicate that results are not yet available or not applicable.

第 7、8 两条是读这张表的钥匙:加粗代表该行最高值,-- 的官方释义是「results are not yet available or not applicable」。-- 不是 0 分,也不是「不支持」「做不到」,引用时把这句定义一起带上最省事。

表二:VL Performance

出处 README.md:191README.md:210,列名照抄 README.md:192,与表一列名完全相同。

能力/评测集Qwen3.8-27BQwen3.6-27BQwen3.7-PlusMuse Glimmer-30BOpus4.6 Max
Agentic Multimodal Intelligence(分组行,README.md:194
Computer use/OSWorld-Verified84.363.973.365.972.7
Browser use/WebArena-Verified64.848.855.3
Mobile use/AndroidWorld81.970.381.062.0
Application recreation/RecreationBench47.129.830.2
Multimodal tool use/ClawEval-MMPass@3 57.4/Average 56.9Pass@3 42.6/Average 50.4Pass@3 57.4/Average 60.1Pass@3 52.5/Average 54.7
Multimodal software engineering/SWE-MM38.625.730.027.1
Visual web development/Vision2Web62.945.042.1
General Multimodal Intelligence(分组行,README.md:202
Visual math problem solving/MathVisionWithout CI 90.0/With CI 94.6Without CI 85.1Without CI 90.3Without CI 65.5
General visual reasoning/BabyVisionWithout CI 65.7/With CI 85.6Without CI 28.9Without CI 64.7/With CI 70.4Without CI 12.6
Scientific chart analysis/CharXiv (RQ)Without CI 83.7/With CI 90.2Without CI 78.4Without CI 85.8/With CI 85.978.8Without CI 66.0
Document intelligence/OmniDocBench 1.591.189.491.475.886.6
Real-world perception/RealWorldQA85.984.186.973.9
Embodied intelligence/ERQA65.562.569.840.8

表二每一行的 6 个单元格都写在同一行源码里,所以是一行一个行号:OSWorld-Verified = README.md:195WebArena-Verified = 196AndroidWorld = 197RecreationBench = 198ClawEval-MM = 199SWE-MM = 200Vision2Web = 201MathVision = 203BabyVision = 204CharXiv (RQ) = 205OmniDocBench 1.5 = 206RealWorldQA = 207ERQA = 208

表二的 8 条脚注(原文照抄,README.md:213README.md:220

  1. MathVision, BabyVision, and CharXiv (RQ): Where both settings are available, cells report “Without CI” and “With CI” separately; otherwise, only the available setting is shown. A small number of incorrect ground-truth annotations in MathVision and CharXiv (RQ) were corrected following manual verification, and all reported scores on those benchmarks were computed using the corrected annotations.
  2. MathVision: Qwen3.8-27B is evaluated using the fixed prompt: “Please reason step by step, and put your final answer within \boxed{}.” For the remaining models, we report the higher score from two prompt variants—one with and one without the \boxed{} formatting requirement.
  3. WebArena-Verified: Scores are computed with the official WebArena-Verified grader under the OSWorld scaffold.
  4. RecreationBench: An in-house, long-horizon application-recreation benchmark designed to evaluate hybrid-agent capabilities across five platforms: desktop (Ubuntu, macOS, and Windows), mobile (Android), and the web.
  5. ClawEval-MM: Scores are reported as “Pass@3 / average score.” Pass@3 is the percentage of tasks passed in at least one of three trials; the average score is the mean benchmark score across the three trials.
  6. Vision2Web: Scores are averaged across the frontend, webpage, and website categories. Evaluations use the Claude Code harness and are judged by gpt-5.4-2026-03-05.
  7. SWE-MM: Scores are evaluated on the Claude Code harness using the public dev split of SWE-bench Multimodal, with the modifications described in Appendix 8.3 of the Claude Opus 4.7 system card.
  8. Empty cells (—) indicate that results are not yet available or not applicable.

25 行是怎么数出来的

两张表加起来到底有多少个评测行?我们没有靠眼睛数,而是按 HTML 结构统计(命令在快照本地目录内执行,python 为 Windows 上的 Python 3):

python -c "
import io
lines=io.open('README.md',encoding='utf-8').read().split('\n')
text=' '.join(lines[70:174]); vl=' '.join(lines[191:210])
foot_t='\n'.join(lines[174:187]); foot_v='\n'.join(lines[210:222])
print('text <tr>:',text.count('<tr>'),'vl <tr>:',vl.count('<tr>'))
print('text <li>:',foot_t.count('<li>'),'vl <li>:',foot_v.count('<li>'))
print('text --:',text.count('>--<'),'vl --:',vl.count('>--<'))
print('text strong:',text.count('<strong>'),'vl strong:',vl.count('<strong>'))"

输出是 text <tr>: 16 vl <tr>: 16text <li>: 8 vl <li>: 8text --: 10 vl --: 13text strong: 13 vl strong: 18

怎么读这组数:表一的 16 个 <tr> = 1 个表头行 + 3 个分组行(Coding/Agent/General)+ 12 个评测行;表二的 16 个 <tr> = 1 个表头行 + 2 个分组行(Agentic Multimodal Intelligence/General Multimodal Intelligence)+ 13 个评测行。两张表合计 25 个评测行、25 个不同的评测集名,无重名-- 表一 10 个、表二 13 个;<strong> 表一 13 处、表二 18 处(多指标单元格里一格可含多处加粗,所以加粗数不等于行数)。

再用 HTMLParser<tr><td> 解析、跳过 colspan 分组行,可以拿到每一列的填充情况:表一 12 个数据行里,Qwen3.8-27BQwen3.6-27BQwen3.7-Plus 三列各 12 格全有值,Muse Glimmer-30B 只有 5 格有值、7 格是 --Opus4.6 Max 9 格有值、3 格是 --;表二 13 个数据行里,Qwen 自家三列各 13 格全有值,Muse Glimmer-30B 只有 3 格有值、10 格是 --Opus4.6 Max 10 格有值、3 格是 --

这条覆盖率差异值得单独记一笔:同一张表里,不同列被填满的程度不一样。我们只陈述这个差异,不推断原因,也不据此评价任何模型——毕竟脚注对 -- 的定义就包含「尚未有结果」这一种可能。

加粗是否真的等于该行最高值,我们也用程序过了一遍:21 个单指标行(表一 11 行、表二 10 行)判定结果全为 OK;4 个多指标行逐格人工核对,Agents' Last Exam 的 Pass@1 与 Score 加粗均落在 Qwen3.8-27B(20.4/42.9),MathVision 的 Without CI 加粗在 Qwen3.7-Plus 的 90.3、With CI 加粗在 Qwen3.8-27B 的 94.6,BabyVision 两个指标的加粗都在 Qwen3.8-27B,CharXiv (RQ) 的 Without CI 加粗在 Qwen3.7-Plus 的 85.8、With CI 加粗在 Qwen3.8-27B 的 90.2。

model card 里没写的东西

比数字更值得记住的,是这一节没有给出什么。我们在整份 README.md 里没有找到:

  • 评测执行日期。两张表和两组脚注都没写这些分数是什么时候跑出来的。
  • 硬件、显卡、节点、推理框架版本。脚注只提到 harness,没有任何硬件或框架版本。model card 另一处写了 “Inference efficiency and throughput vary significantly across frameworks” 并建议用最新版框架(README.md:231234),但那是部署建议,不是评测环境说明。
  • 随机种子、置信区间、方差/标准差,全节未出现。
  • 各评测集的版本与 split,只有 SWE-MM 写了 “public dev split”(README.md:219),其余没写。
  • CI 这个缩写的含义。它只出现在表二单元格的 “Without CI”/“With CI” 标签和脚注(README.md:213)里,我们用 python 全文检索 code interpreter / Code Interpreter / confidence interval(大小写不敏感)返回 0 处命中。所以我们不猜它是什么,引用时就原样写 “Without CI”/“With CI”。
  • Terminus 是什么。它只出现在 Terminal Bench 2.1 (Terminus) 这个评测集名里(README.md:76),README 没有任何解释。
  • 对比模型的具体版本、快照、调用方式Qwen3.6-27BQwen3.7-PlusMuse Glimmer-30BOpus4.6 Max 四列除了 SWE-bench Pro 那条脚注外,没有交代各自是怎么跑的。

还有一点容易被忽略:脚注只覆盖了一部分评测集。表一有 6 个评测集完全没有脚注——Terminal Bench 2.1 (Terminus)、JobBench、Agents’ Last Exam、IFBench、GPQA Diamond、LiveCodeBench v6;表二有 5 个——OSWorld-Verified、AndroidWorld、OmniDocBench 1.5、RealWorldQA、ERQA。有脚注不等于方法已完全公开,没脚注更不等于方法一样。

表内外几处对不上的地方

以下只陈述差异、标明位置,不推断原因,也不用来评价任何东西。

  • 「最高值加粗」的说明只在表一脚注里有README.md:183),表二的 8 条脚注(README.md:213220)没有任何一条说明加粗含义,但表二实际用了 18 处 <strong>。表一脚注是否适用于表二,README 未说明。
  • 表二 ClawEval-MM 一行的 Pass@3 在两列同时加粗:Qwen3.8-27B 与 Qwen3.7-Plus 的 Pass@3 都是 57.4 且都带 <strong>README.md:199)。按表一脚注那句「每行最高值加粗」的口径读,这一行会出现两个「最高」。
  • 表二 CharXiv (RQ) 行的 Muse Glimmer-30B 单元格没有 CI 标签:同行其余四列都写成 “Without CI xx”,只有这一格是裸的 78.8(README.md:205)。
  • SWE-MM 脚注引用的是 “Claude Opus 4.7 system card”,而表里的对比列名写作 “Opus4.6 Max”(脚注 README.md:219,列名 README.md:192),两处版本号不同,README 未作解释。
  • 标题叫 “Text Performance” 的那张表,HTML 类名是 vl-tableREADME.md:70),和表二用的是同一个类名,样式定义块也只写在表一之前(README.md:5968)。这只是类名,我们不推断原因。
  • 256K context window 与 262,144 是四处不同的口径:评测脚注三处写 256K(README.md:177179180);Model Overview 写 “Context Length: 262,144 natively and extensible up to 1,000,000 tokens.”(README.md:53);Best Practices 写 “natively supports context lengths of up to 262,144 tokens”(README.md:514);开头的托管服务说明写 “1M context length by default”(README.md:16)——而那段托管服务在 model card 里明写 “The service is coming soon”,属于尚未提供的计划。这四处说的是不同对象(评测设置/模型原生/扩展上限/托管服务默认值),引用时必须写清是哪一处。

引用这张表时的几条硬纪律

最后把我们自己遵守的几条规矩列出来,你转引时照做基本不会出事:

  1. 别自己算平均分、别排名次。这两张表只有 5 列 25 行,没有任何总分、平均分、加权分或排行榜位次,原表也没提供总分口径。
  2. 别把这张表的数字和别处的分数拼在一起。不同来源的评测条件不同,拼成一张表就没法回溯了。
  3. 别把加粗读成能力结论。脚注说的是「该行最高值」,转述时就写「model card 自述该单元格为该行最高值」,不要写成「更强」「领先」「达到某某水平」。
  4. 别省评测集名字。多指标行还要写清是 Pass@1/Score/Pass@3/Average/Without CI/With CI 中的哪一个。举个例子:90.3 这个数在表一是 LiveCodeBench v6 的 Qwen3.8-27B 值(README.md:167),也是 GPQA Diamond 的 Qwen3.7-Plus 值(README.md:153),还是表二 MathVision Without CI 的 Qwen3.7-Plus 值(README.md:203)——只写「得了 90.3 分」等于什么都没说。
  5. 别把不同脚注条件下的数字混为一谈。SWE-bench Pro 那一行里 Opus4.6 Max 用的是官方公布分、其余是本 model card 自评(README.md:177);MathVision 那一行里 Qwen3.8-27B 用固定 prompt、其余取两种 prompt 的较高分(README.md:214)。引这两行必须连脚注一起引。
  6. 别把 in-house 评测当公开基准QwenSWEBenchREADME.md:180)、CoWorkBenchREADME.md:181)、RecreationBenchREADME.md:216)在脚注里被自述为自建评测集。
  7. 别改数字的呈现精度。原表全是一位小数,别四舍五入成整数,别加百分号,也别写成「七成多」这类近似说法。
  8. 别由分数推资源需求。分数和显存、体积、吞吐、时延、成本之间没有可推导的关系,这一步我们一个字都不写。

顺带一提,SWE-bench Pro(README.md:177)、MathVision 与 CharXiv (RQ)(README.md:213)的脚注都写明基准数据被修正过——前者是 “Problematic tasks were corrected”,后两者是少量错误标注经人工核验后被更正。引用这三个评测集的分数时,把这句限定一起带上。

延伸阅读


本文依据 Hugging Face 仓库 Qwen/Qwen3.8-27B 的 model card 与随仓配置文件(config.jsongeneration_config.jsonpreprocessor_config.jsonchat_template.jinja 等)整理,核对日 2026-08-16,对应仓库快照 1d4bf0f。本文内容为 model card 与配置文件口径,我们没有下载权重、没有部署、也没有推理过这个模型,因此不涉及生成质量、推理速度与显存占用的任何描述;文中所有评测数字均为 model card 自述,我们没有复现。模型仓库内容随上游更新而变动,请以官方最新说明为准。

想系统学会用 AI?报名体系课或加入会员,照着学、照着用。