端侧 AI · 运行时
本地 AI 重复请求如何去重
定义请求等价条件，同时隔离不同用户和会话的私密结果。
主查询：本地 AI 请求去重 · 核验：2026-09-16 · 事实卡：PRIVACY-01, ARCH-01
先给结论
为本地 AI 重复请求设计去重方案时，第一步应当明确请求等价的判定条件，并在同一判定规则之内，将不同用户与不同会话的私密结果严格隔离开。等价定义一旦越过自身语义去推测用户的真实意图，就会脱离可观测的事实基础，必须以请求本身可被记录的字段为界，避免任何外向推断。
需要先收集的证据
至少把下面三项与同一个 artifact、运行时和任务绑定：
- 请求 identity 策略
- 同异输入 fixture
- 取消与缓存交互
若缺一项，就把它写成未知，不要用模型参数、芯片宣传或网上截图代替。
实施流程
落实这一定义需要把请求 identity 策略、同异输入 fixture，以及取消与缓存之间的交互三类证据串联起来，形成可对比的记录。同一 fixture 在不同会话下不得命中他人缓存，取消发生时也必须让对应缓存项同步失效，而不能借由这些行为再去拼凑用户的未声明信息。
- 选择运行时生态
- 确认支持的模型格式
- 封装应用接口
- 验证实际执行后端
- 测试取消与释放
- 保留回滚路径
最容易写错的地方
- 把展示文本当 identity
- 返回其他会话结果
在具体实现中，常见的错误模式是把界面展示文本当作请求 identity，或在去重路径上错误地返回了另一会话的缓存结果。这些结论只能限定在已有事实卡的边界之内，仅就 PRIVACY-01 与 ARCH-01 所记录的隐私与架构约束给出修正，不得延伸到任何超出本卡范围的额外保证或行为。
最小复现记录
| 层 | 必须记录 |
|---|---|
| 设备 | 型号、芯片、系统、RAM 档位 |
| 软件 | App 版本与 git commit |
| 模型 | 家族、变种、revision、格式、长度、hash、量化 |
| 运行时 | 版本、请求后端、实际后端证据 |
| 任务 | fixture、输入 hash、prompt hash、输出规则 |
| 结果 | 完成、失败、取消、回退与恢复 |
发布检查单
- 目标查询已在开头直接回答。
- 所有数字都能回到事实卡或原始记录。
- artifact、runtime、设备与任务没有混淆。
- 失败、取消、清理与回退都被测试。
- 隐私和网络边界单独说明。
- 结论只适用于记录中的配置。
事实来源与延伸
本页使用奇连 AI 的端侧事实卡镜像，性能结论等待 Cove 原始 benchmark 数据。