端侧 AI · 内存
离线 AI 结果缓存也属于派生数据
缓存输出必须关联 source、artifact、prompt 和 parser 版本。
主查询:离线 AI 结果缓存 · 核验:2026-09-16 · 事实卡:PRIVACY-01, COVE-MODEL-02
先给结论
缓存输出必须以可核对的字段与底层依据对齐,禁止仅凭语义进行推断。具体而言,离线 AI 结果缓存条目应当同时记录 source、artifact、prompt 与 parser 版本四项基础要素,确保事后能基于记录字段定位原始材料与处理过程,避免出现“结果存在但依据无从追溯”的状态。
需要先收集的证据
至少把下面三项与同一个 artifact、运行时和任务绑定:
- cache key schema
- 来源与 artifact 引用
- 删除重建测试
若缺一项,就把它写成未知,不要用模型参数、芯片宣传或网上截图代替。
实施流程
对缓存结构的核查应聚焦记录要素与重建验证两条线。一是在 schema 中固化 cache key 的组成,并保存来源与 artifact 的引用关系;二是在测试环节安排“删除并重建”用例,比对删除原文前后的缓存状态与重建结果,确认缓存与原始依据之间的对应关系能够在删除/重建流程中复现。
- 记录真实 artifact
- 测未加载基线
- 测加载后状态
- 跑代表任务
- 跑最大承诺输入
- 连续运行并观察释放
最容易写错的地方
- 缓存没有来源
- 删除原文后仍保留结果
基于已有错误模式,发布结论须严格限定在可记录事实之内。常见的错误表现包括:缓存条目缺少来源记录,以及在原文被删除后缓存结果仍然留存。前者导致无法回溯依据,后者造成结论指向已不存在的材料。任何关于风险、改进或合规的表述,都应建立在上述字段与测试记录之上,不得向外延伸。
最小复现记录
| 层 | 必须记录 |
|---|---|
| 设备 | 型号、芯片、系统、RAM 档位 |
| 软件 | App 版本与 git commit |
| 模型 | 家族、变种、revision、格式、长度、hash、量化 |
| 运行时 | 版本、请求后端、实际后端证据 |
| 任务 | fixture、输入 hash、prompt hash、输出规则 |
| 结果 | 完成、失败、取消、回退与恢复 |
发布检查单
- 目标查询已在开头直接回答。
- 所有数字都能回到事实卡或原始记录。
- artifact、runtime、设备与任务没有混淆。
- 失败、取消、清理与回退都被测试。
- 隐私和网络边界单独说明。
- 结论只适用于记录中的配置。
事实来源与延伸
本页使用奇连 AI 的端侧事实卡镜像,性能结论等待 Cove 原始 benchmark 数据。