更换 Gemini 模型前,怎样重跑已有文档提取的黄金样本
更换 Gemini 模型前,应重跑已有文档提取的黄金样本,比较业务字段与失败类型。目标是决定现有流程是否能切换,不是给所有模型排座次。样本、期望结果和发布门槛要先固定,不能看过新结果再临时改标准。
黄金样本包含什么
一份样本由原文件、文件摘要、问题或提取合同、人工期望与来源定位组成。选择真实业务允许使用的脱敏样本,或者明确的合成文档,覆盖正常表格、空值、单位、跨页、扫描模糊和无答案。高影响字段单独标识,不能让大量低风险文字字段稀释金额错误。
| 样本 | 关键边界 | 人工期望 | 判定方式 |
|---|---|---|---|
| T01 | 表头万元 | 1.20→12000元 | 精确数值与单位 |
| T02 | 缺失日期 | null且说明缺失 | 不编造 |
| T03 | 跨页表 | 行数与来源一致 | 数量及逐行定位 |
| T04 | 模糊小字 | 待核而非猜值 | 状态检查 |
| T05 | 文档无答案 | 明确无法确定 | 证据核查 |
黄金样本不意味着永远不变。发现新线上失败后可加入,但修改样本集版本,保留旧版,避免历史通过率无法比较。
一次只换模型配置
旧新两侧使用相同文件、提示、输出 Schema、解析器和业务断言。记录模型实际请求标识、SDK 版本、采样配置和运行时间。平台支持范围不同造成无法等价发送时,明确列差异,不把“不支持某参数”藏进默认行为。
先用合成响应验证比较程序本身,再做预算内真实调用。本文没有实际调用新旧模型,矩阵是待执行方案。输出目录按运行编号组织,保存原始脱敏响应、解析结果与校验报告,不覆盖上一轮。
字段比较需要各自的规则
编号逐字比较,金额在确认单位后用十进制比较,日期带时区比较,正文摘要按关键事实核对。不能把所有值转字符串后做全文一致判断,也不能允许任意语义相似就把编号错一位算通过。来源字段需要检查实际页码和引文,结构合法不能替代证据有效。
对每个差异标明旧版是否正确、新版是否正确。旧新不同不一定是退步,旧版也可能错;旧新相同也可能共同错误。人工真值是参照,而不是旧模型输出。确实无法确定的样本保留为待核,不强行归类。
发布门槛和回退材料一起准备
示例门槛可以是关键金额、币种与编号零错误,无答案样本不编造,非关键字段通过率不低于基线约定范围。具体阈值取决于业务,不能照抄为行业标准。若发现关键回归,先缩小原因或保留旧模型,不用平均分上涨掩盖。
回退需要旧模型配置、提示版本、解析代码和旧结果快照,不能只记一个模型昵称。上线后对真实分布继续抽查,因为固定样本无法覆盖所有文档。逐次记录失败类型,有助于判断是模型切换、输入质量还是应用适配引起变化。
常见问题
旧版输出能直接当真值吗? 不应,先人工核对并附来源。
所有字段都要完全一致吗? 标识符和关键数值通常严格,描述文本可按事实判据验收。
小样本全通过能保证线上无误吗? 不能,它只支持受测样本范围,应继续监测实际输入。
继续处理相关问题
相关入口:Gemini 接入基础。
官方依据与核对日期
核对日:2026-10-23。Gemini 文档处理:PDF 理解需要结合输入质量与具体能力核对;Gemini 应用校验:官方要求应用验证值,结构合规不等于语义正确。文中的流程、阈值和合成数据属于工程示例,不能代替当前账号、文件或运行环境的验收。
留言讨论
评论发布后会被人工复核,违规内容将被删除。
如果发表没有反应,可以前往联系我们告诉我们。