模型测试 20 题过了 18 题,怎样给通过率补上样本不确定性

2026-10-24

18/20只能先写成观察通过率90%,并同时附样本数与区间。满足独立、相同成功概率的二值试验假设时,95% Wilson区间约为69.90%到97.21%;180/200也是90%,区间却收窄到约85.06%到93.43%。

先确认统计单位是什么

本文使用合成独立二值试验演示区间计算,每次结果只有通过或未通过。同一道题反复重试通常共享题目难度与上下文,不能直接当成多道独立题;来自同一任务模板的样本也可能聚簇。真实复杂题库还涉及抽样代表性与难度分布,Wilson公式不能把随意挑出的20题变成模型总体能力证明。报告应先说明测试集合及一条结果的含义,再展示百分数。

把中心与半宽保存下来

脚本使用双侧95%对应的标准正态分位数,先计算点估计p,再按Wilson公式修正区间中心和半宽。输出CSV同时保留k、n、p、center、half、low和high,便于独立复算,不只给一张“表现优秀”的结论图。18/20与180/200的区间中心并不完全相同,也不应先把中间值四舍五入再继续计算。两组只是样本量对照,不是两款真实模型的测评。

零通过与全通过仍要有区间

0/20的下限为零,上限约16.11%;20/20的上限为一,下限约83.89%。因此零错误不等于错误概率严格为零,二十次全对也不能写成“以后必然全对”。附件把这两种边界一起输出,让读者观察小样本的有限信息。区间的频率学解释关乎重复抽样程序的覆盖率,不是宣称本次参数有95%的主观概率落在某处。

不能计算时明确留白

0/0没有观察比例,失败命令会停止;成功数超过总数同样不接受。实际评测若包含部分通过、打分制或不同权重,应先定义合适的统计模型,不能把分数简单阈值化后忘记原始含义。开发集与测试集混用、反复挑选最好一轮,也会破坏报告解释。使用附件可复核公式与边界,但不能替代任务抽样方案;有关人工标注分歧也应另列,不要统统吞入一个看似精确的通过率。

评测摘要建议同时写出通过数、总数、观察比例、区间方法和适用假设。若同一批题有多个子类别,可先分别展示计数,再决定是否需要合并;不能为了让区间变窄,把高度相似的重试结果简单追加到原题库总数里。

下载与复现

下载完整样例包,解压到一个新文件夹;也可查看全部文件清单和主脚本。使用Python 3.10或更新版本,在解压目录运行。此脚本只使用标准库,无需安装额外包。

python -B run.py
python -B run.py --negative

先查看主要结果,再修改输入重跑;已有输入会保留,结果写回同目录。边界命令可能故意非零退出,也可能输出明确的不适用状态,按正文说明判断,不把所有非零退出都当成安装故障。

依据与延伸阅读

资料核对日期为2026年10月24日。一手资料1:比例区间接口支持Wilson方法;区间推断依赖统计假设。

相关参考2:评测应按任务定义标准并处理评委偏差;不提供本例合成试验的总体能力保证。

继续阅读:怎么评估一个 Agent 好不好用:六个维度和一张可执行的评测表;两位审校员给模型结果打分不一致,怎样算一致率并找出争议样本;让分类模型低把握时交给人工,怎样选择覆盖率与错误率的折中点。

想系统学会用 AI?报名体系课或加入会员,照着学、照着用。

加微信,把这一页存到手机上

扫码加站长企业微信,会自动把这一页的链接发给你,方便在手机上接着看。AI 落地卡住了,也可以直接问。

去留微信

留言讨论

评论发布后会被人工复核,违规内容将被删除。

    还没有人评论,来说说你的看法

    如果发表没有反应,可以前往联系我们告诉我们。

    这个页面有问题?

    提交时会附带当前页面地址和浏览器信息,帮助我们定位问题。不填联系方式即为匿名。