Qwen3.8-27B 的 Benchmark 原表照搬:两张表 25 行与确切出处
网上关于 Qwen3.8-27B 的评测数字,转来转去很快就会变形:有人只贴分数不写评测集,有人把两张表拼成一张,有人把一位小数四舍五入成整数,还有人顺手加了一列别处的数字。这篇不做任何加工,只做一件事——把 Hugging Face 仓库 Qwen/Qwen3.8-27B 的 model card 里 ## Benchmark Results 一节的两张表原样搬过来,并把每一行在 README.md 里的行号标出来,让你自己能翻回原文核对。
先把这两张表的身份说清楚:表里所有数字都是 model card 自述的评测结果,也就是 Qwen 团队自己贴出来的。我们没有下载权重、没有部署、没有推理过一个 token,更没有复现过任何一项评测,评测方法与环境一律以官方说明为准。表中「Qwen3.6-27B」「Qwen3.7-Plus」「Muse Glimmer-30B」「Opus4.6 Max」这四列,也是 model card 自己选的对比列,不是我们做的对比。
两张表在文件里的位置
我们采集的是快照 1d4bf0f,核对日 2026-08-16。这份 README.md 在我们快照里原始体积 65,012 字节、583 行、换行符全为 CRLF。两张表的位置如下(行号均为我们实读的行号):
| 位置 | 行号 |
|---|---|
## Benchmark Results | README.md:56 |
### Text Performance | README.md:58 |
内联 <style> 块 | README.md:59–README.md:68 |
表一 <table> | README.md:70–README.md:174 |
表一脚注 <ol>(8 条) | README.md:176–README.md:185 |
### VL Performance | README.md:189 |
表二 <table> | README.md:191–README.md:210 |
表二脚注 <ol>(8 条) | README.md:212–README.md:221 |
下一节 ## Quickstart | README.md:225 |
有一点值得先说:这两张表在 model card 里是原生 HTML <table>,不是 Markdown 表格(README.md:70、README.md:191)。所以你如果想用普通的 Markdown 解析器去抓表格,会一无所获,得按 HTML 解析。下面我们转写成 Markdown 只是为了可读,数字、行名、列名、脚注一字未改。
表一:Text Performance
出处 README.md:70–README.md:174,列名照抄 README.md:72。加粗表示原表该单元格带 <strong> 标签;-- 是原表原样的写法。
| 能力/评测集 | Qwen3.8-27B | Qwen3.6-27B | Qwen3.7-Plus | Muse Glimmer-30B | Opus4.6 Max |
|---|---|---|---|---|---|
Coding(分组行,README.md:74) | |||||
| Agentic terminal coding/Terminal Bench 2.1 (Terminus) | 73.0 | 63.4 | 64.0 | 51.7 | 78.2 |
| Agentic coding/SWE-bench Pro | 61.7 | 53.5 | 57.6 | 51.2 | 53.4 |
| Repo-level code generation/NL2Repo-Bench | 42.3 | 36.2 | 41.1 | — | 47.6 |
| Agentic coding/DeepSWE 1.1 | 42.2 | 13.3 | 14.2 | — | — |
| Software engineering/QwenSWEBench | 79.0 | 49.3 | 59.2 | — | 63.8 |
Agent(分组行,README.md:115) | |||||
| Long-horizon office work/CoWorkBench | 70.7 | 61.0 | 65.1 | — | 68.2 |
| Professional job tasks/JobBench | 33.4 | 21.8 | 27.6 | — | — |
| Frontier agentic tasks/Agents’ Last Exam | Pass@1 20.4/Score 42.9 | Pass@1 10.6/Score 27.3 | Pass@1 13.2/Score 33.6 | — | — |
General(分组行,README.md:140) | |||||
| Instruction following/IFBench | 79.5 | 69.1 | 79.1 | 77.0 | 62.5 |
| Scientific reasoning/GPQA Diamond | 89.2 | 87.8 | 90.3 | 83.5 | 91.3 |
| Multidisciplinary reasoning/HLE | 30.8 | 24.0 | 34.7 | 22.0 | 40.0 |
| Competitive coding/LiveCodeBench v6 | 90.3 | 83.9 | 89.6 | — | 88.8 |
逐行行号,方便你回原文核对:Terminal Bench 2.1 (Terminus) = README.md:76–81;SWE-bench Pro = 84–89;NL2Repo-Bench = 92–97;DeepSWE 1.1 = 100–105;QwenSWEBench = 108–113;CoWorkBench = 117–122;JobBench = 125–130;Agents' Last Exam = 133–138;IFBench = 142–147;GPQA Diamond = 150–155;HLE = 158–163;LiveCodeBench v6 = 166–171。
表一的 8 条脚注(原文照抄,README.md:177–README.md:184)
- SWE-bench Pro: Except for Opus4.6 Max, which uses the officially reported score, all models are evaluated with the Claude Code harness at temp=1.0, top_p=0.95, and a 256K context window. Problematic tasks were corrected, and all baseline models were re-evaluated on the refined benchmark.
- NL2Repo-Bench: Evaluated with the Claude Code harness. To prevent reward hacking, we disable Bash commands that attempt to access the specific repository, such as pip download, pip install, and git clone.
- DeepSWE 1.1: Evaluated with the Claude Code harness at temp=1.0, top_p=0.95, and a 256K context window.
- QwenSWEBench: In-house coding benchmark for evaluating models’ software engineering capabilities. Evaluated with the Claude Code harness. Reporting avg@3 with an 8-hour timeout, max_tokens=32,768, temperature=1.0, and a 256K context window.
- CoWorkBench: In-house cowork benchmark for evaluating long-horizon tasks across computer science, finance, law, medical, and other productivity domains.
- HLE: Judged by GPT-4o.
- The best result in each row is shown in bold.
- Empty cells (—) indicate that results are not yet available or not applicable.
第 7、8 两条是读这张表的钥匙:加粗代表该行最高值,-- 的官方释义是「results are not yet available or not applicable」。-- 不是 0 分,也不是「不支持」「做不到」,引用时把这句定义一起带上最省事。
表二:VL Performance
出处 README.md:191–README.md:210,列名照抄 README.md:192,与表一列名完全相同。
| 能力/评测集 | Qwen3.8-27B | Qwen3.6-27B | Qwen3.7-Plus | Muse Glimmer-30B | Opus4.6 Max |
|---|---|---|---|---|---|
Agentic Multimodal Intelligence(分组行,README.md:194) | |||||
| Computer use/OSWorld-Verified | 84.3 | 63.9 | 73.3 | 65.9 | 72.7 |
| Browser use/WebArena-Verified | 64.8 | 48.8 | 55.3 | — | — |
| Mobile use/AndroidWorld | 81.9 | 70.3 | 81.0 | — | 62.0 |
| Application recreation/RecreationBench | 47.1 | 29.8 | 30.2 | — | — |
| Multimodal tool use/ClawEval-MM | Pass@3 57.4/Average 56.9 | Pass@3 42.6/Average 50.4 | Pass@3 57.4/Average 60.1 | — | Pass@3 52.5/Average 54.7 |
| Multimodal software engineering/SWE-MM | 38.6 | 25.7 | 30.0 | — | 27.1 |
| Visual web development/Vision2Web | 62.9 | 45.0 | 42.1 | — | — |
General Multimodal Intelligence(分组行,README.md:202) | |||||
| Visual math problem solving/MathVision | Without CI 90.0/With CI 94.6 | Without CI 85.1 | Without CI 90.3 | — | Without CI 65.5 |
| General visual reasoning/BabyVision | Without CI 65.7/With CI 85.6 | Without CI 28.9 | Without CI 64.7/With CI 70.4 | — | Without CI 12.6 |
| Scientific chart analysis/CharXiv (RQ) | Without CI 83.7/With CI 90.2 | Without CI 78.4 | Without CI 85.8/With CI 85.9 | 78.8 | Without CI 66.0 |
| Document intelligence/OmniDocBench 1.5 | 91.1 | 89.4 | 91.4 | 75.8 | 86.6 |
| Real-world perception/RealWorldQA | 85.9 | 84.1 | 86.9 | — | 73.9 |
| Embodied intelligence/ERQA | 65.5 | 62.5 | 69.8 | — | 40.8 |
表二每一行的 6 个单元格都写在同一行源码里,所以是一行一个行号:OSWorld-Verified = README.md:195,WebArena-Verified = 196,AndroidWorld = 197,RecreationBench = 198,ClawEval-MM = 199,SWE-MM = 200,Vision2Web = 201,MathVision = 203,BabyVision = 204,CharXiv (RQ) = 205,OmniDocBench 1.5 = 206,RealWorldQA = 207,ERQA = 208。
表二的 8 条脚注(原文照抄,README.md:213–README.md:220)
- MathVision, BabyVision, and CharXiv (RQ): Where both settings are available, cells report “Without CI” and “With CI” separately; otherwise, only the available setting is shown. A small number of incorrect ground-truth annotations in MathVision and CharXiv (RQ) were corrected following manual verification, and all reported scores on those benchmarks were computed using the corrected annotations.
- MathVision: Qwen3.8-27B is evaluated using the fixed prompt: “Please reason step by step, and put your final answer within
\boxed{}.” For the remaining models, we report the higher score from two prompt variants—one with and one without the\boxed{}formatting requirement. - WebArena-Verified: Scores are computed with the official WebArena-Verified grader under the OSWorld scaffold.
- RecreationBench: An in-house, long-horizon application-recreation benchmark designed to evaluate hybrid-agent capabilities across five platforms: desktop (Ubuntu, macOS, and Windows), mobile (Android), and the web.
- ClawEval-MM: Scores are reported as “Pass@3 / average score.” Pass@3 is the percentage of tasks passed in at least one of three trials; the average score is the mean benchmark score across the three trials.
- Vision2Web: Scores are averaged across the frontend, webpage, and website categories. Evaluations use the Claude Code harness and are judged by
gpt-5.4-2026-03-05. - SWE-MM: Scores are evaluated on the Claude Code harness using the public dev split of SWE-bench Multimodal, with the modifications described in Appendix 8.3 of the Claude Opus 4.7 system card.
- Empty cells (—) indicate that results are not yet available or not applicable.
25 行是怎么数出来的
两张表加起来到底有多少个评测行?我们没有靠眼睛数,而是按 HTML 结构统计(命令在快照本地目录内执行,python 为 Windows 上的 Python 3):
python -c "
import io
lines=io.open('README.md',encoding='utf-8').read().split('\n')
text=' '.join(lines[70:174]); vl=' '.join(lines[191:210])
foot_t='\n'.join(lines[174:187]); foot_v='\n'.join(lines[210:222])
print('text <tr>:',text.count('<tr>'),'vl <tr>:',vl.count('<tr>'))
print('text <li>:',foot_t.count('<li>'),'vl <li>:',foot_v.count('<li>'))
print('text --:',text.count('>--<'),'vl --:',vl.count('>--<'))
print('text strong:',text.count('<strong>'),'vl strong:',vl.count('<strong>'))"
输出是 text <tr>: 16 vl <tr>: 16、text <li>: 8 vl <li>: 8、text --: 10 vl --: 13、text strong: 13 vl strong: 18。
怎么读这组数:表一的 16 个 <tr> = 1 个表头行 + 3 个分组行(Coding/Agent/General)+ 12 个评测行;表二的 16 个 <tr> = 1 个表头行 + 2 个分组行(Agentic Multimodal Intelligence/General Multimodal Intelligence)+ 13 个评测行。两张表合计 25 个评测行、25 个不同的评测集名,无重名。-- 表一 10 个、表二 13 个;<strong> 表一 13 处、表二 18 处(多指标单元格里一格可含多处加粗,所以加粗数不等于行数)。
再用 HTMLParser 逐 <tr>/<td> 解析、跳过 colspan 分组行,可以拿到每一列的填充情况:表一 12 个数据行里,Qwen3.8-27B/Qwen3.6-27B/Qwen3.7-Plus 三列各 12 格全有值,Muse Glimmer-30B 只有 5 格有值、7 格是 --,Opus4.6 Max 9 格有值、3 格是 --;表二 13 个数据行里,Qwen 自家三列各 13 格全有值,Muse Glimmer-30B 只有 3 格有值、10 格是 --,Opus4.6 Max 10 格有值、3 格是 --。
这条覆盖率差异值得单独记一笔:同一张表里,不同列被填满的程度不一样。我们只陈述这个差异,不推断原因,也不据此评价任何模型——毕竟脚注对 -- 的定义就包含「尚未有结果」这一种可能。
加粗是否真的等于该行最高值,我们也用程序过了一遍:21 个单指标行(表一 11 行、表二 10 行)判定结果全为 OK;4 个多指标行逐格人工核对,Agents' Last Exam 的 Pass@1 与 Score 加粗均落在 Qwen3.8-27B(20.4/42.9),MathVision 的 Without CI 加粗在 Qwen3.7-Plus 的 90.3、With CI 加粗在 Qwen3.8-27B 的 94.6,BabyVision 两个指标的加粗都在 Qwen3.8-27B,CharXiv (RQ) 的 Without CI 加粗在 Qwen3.7-Plus 的 85.8、With CI 加粗在 Qwen3.8-27B 的 90.2。
model card 里没写的东西
比数字更值得记住的,是这一节没有给出什么。我们在整份 README.md 里没有找到:
- 评测执行日期。两张表和两组脚注都没写这些分数是什么时候跑出来的。
- 硬件、显卡、节点、推理框架版本。脚注只提到 harness,没有任何硬件或框架版本。model card 另一处写了 “Inference efficiency and throughput vary significantly across frameworks” 并建议用最新版框架(
README.md:231–234),但那是部署建议,不是评测环境说明。 - 随机种子、置信区间、方差/标准差,全节未出现。
- 各评测集的版本与 split,只有 SWE-MM 写了 “public dev split”(
README.md:219),其余没写。 CI这个缩写的含义。它只出现在表二单元格的 “Without CI”/“With CI” 标签和脚注(README.md:213)里,我们用python全文检索code interpreter/Code Interpreter/confidence interval(大小写不敏感)返回 0 处命中。所以我们不猜它是什么,引用时就原样写 “Without CI”/“With CI”。Terminus是什么。它只出现在Terminal Bench 2.1 (Terminus)这个评测集名里(README.md:76),README 没有任何解释。- 对比模型的具体版本、快照、调用方式。
Qwen3.6-27B、Qwen3.7-Plus、Muse Glimmer-30B、Opus4.6 Max四列除了 SWE-bench Pro 那条脚注外,没有交代各自是怎么跑的。
还有一点容易被忽略:脚注只覆盖了一部分评测集。表一有 6 个评测集完全没有脚注——Terminal Bench 2.1 (Terminus)、JobBench、Agents’ Last Exam、IFBench、GPQA Diamond、LiveCodeBench v6;表二有 5 个——OSWorld-Verified、AndroidWorld、OmniDocBench 1.5、RealWorldQA、ERQA。有脚注不等于方法已完全公开,没脚注更不等于方法一样。
表内外几处对不上的地方
以下只陈述差异、标明位置,不推断原因,也不用来评价任何东西。
- 「最高值加粗」的说明只在表一脚注里有(
README.md:183),表二的 8 条脚注(README.md:213–220)没有任何一条说明加粗含义,但表二实际用了 18 处<strong>。表一脚注是否适用于表二,README 未说明。 - 表二
ClawEval-MM一行的 Pass@3 在两列同时加粗:Qwen3.8-27B 与 Qwen3.7-Plus 的 Pass@3 都是 57.4 且都带<strong>(README.md:199)。按表一脚注那句「每行最高值加粗」的口径读,这一行会出现两个「最高」。 - 表二
CharXiv (RQ)行的Muse Glimmer-30B单元格没有 CI 标签:同行其余四列都写成 “Without CI xx”,只有这一格是裸的 78.8(README.md:205)。 - SWE-MM 脚注引用的是 “Claude Opus 4.7 system card”,而表里的对比列名写作 “Opus4.6 Max”(脚注
README.md:219,列名README.md:192),两处版本号不同,README 未作解释。 - 标题叫 “Text Performance” 的那张表,HTML 类名是
vl-table(README.md:70),和表二用的是同一个类名,样式定义块也只写在表一之前(README.md:59–68)。这只是类名,我们不推断原因。 256K context window与 262,144 是四处不同的口径:评测脚注三处写 256K(README.md:177、179、180);Model Overview 写 “Context Length: 262,144 natively and extensible up to 1,000,000 tokens.”(README.md:53);Best Practices 写 “natively supports context lengths of up to 262,144 tokens”(README.md:514);开头的托管服务说明写 “1M context length by default”(README.md:16)——而那段托管服务在 model card 里明写 “The service is coming soon”,属于尚未提供的计划。这四处说的是不同对象(评测设置/模型原生/扩展上限/托管服务默认值),引用时必须写清是哪一处。
引用这张表时的几条硬纪律
最后把我们自己遵守的几条规矩列出来,你转引时照做基本不会出事:
- 别自己算平均分、别排名次。这两张表只有 5 列 25 行,没有任何总分、平均分、加权分或排行榜位次,原表也没提供总分口径。
- 别把这张表的数字和别处的分数拼在一起。不同来源的评测条件不同,拼成一张表就没法回溯了。
- 别把加粗读成能力结论。脚注说的是「该行最高值」,转述时就写「model card 自述该单元格为该行最高值」,不要写成「更强」「领先」「达到某某水平」。
- 别省评测集名字。多指标行还要写清是 Pass@1/Score/Pass@3/Average/Without CI/With CI 中的哪一个。举个例子:90.3 这个数在表一是
LiveCodeBench v6的 Qwen3.8-27B 值(README.md:167),也是GPQA Diamond的 Qwen3.7-Plus 值(README.md:153),还是表二MathVisionWithout CI 的 Qwen3.7-Plus 值(README.md:203)——只写「得了 90.3 分」等于什么都没说。 - 别把不同脚注条件下的数字混为一谈。SWE-bench Pro 那一行里
Opus4.6 Max用的是官方公布分、其余是本 model card 自评(README.md:177);MathVision 那一行里 Qwen3.8-27B 用固定 prompt、其余取两种 prompt 的较高分(README.md:214)。引这两行必须连脚注一起引。 - 别把 in-house 评测当公开基准。
QwenSWEBench(README.md:180)、CoWorkBench(README.md:181)、RecreationBench(README.md:216)在脚注里被自述为自建评测集。 - 别改数字的呈现精度。原表全是一位小数,别四舍五入成整数,别加百分号,也别写成「七成多」这类近似说法。
- 别由分数推资源需求。分数和显存、体积、吞吐、时延、成本之间没有可推导的关系,这一步我们一个字都不写。
顺带一提,SWE-bench Pro(README.md:177)、MathVision 与 CharXiv (RQ)(README.md:213)的脚注都写明基准数据被修正过——前者是 “Problematic tasks were corrected”,后两者是少量错误标注经人工核验后被更正。引用这三个评测集的分数时,把这句限定一起带上。
延伸阅读
- 从头读起:Qwen3.8-27B 是什么:一个模型仓里有哪些文件、各自负责什么
- 本专题共 35 篇,完整分组目录见专题页
- Qwen3.8-27B 的 Benchmark 加粗口径:VL 表没说明却粗了 18 处
- Qwen3.8-27B 的评测表里,有一行两列同时被加粗
本文依据 Hugging Face 仓库 Qwen/Qwen3.8-27B 的 model card 与随仓配置文件(config.json、generation_config.json、preprocessor_config.json、chat_template.jinja 等)整理,核对日 2026-08-16,对应仓库快照 1d4bf0f。本文内容为 model card 与配置文件口径,我们没有下载权重、没有部署、也没有推理过这个模型,因此不涉及生成质量、推理速度与显存占用的任何描述;文中所有评测数字均为 model card 自述,我们没有复现。模型仓库内容随上游更新而变动,请以官方最新说明为准。