端侧 AI · 交付

本地 AI 实际执行后端应该让用户看见

展示观测到的执行路径与回退状态,不把配置翻译成性能结论。

主查询:本地 AI 执行后端 · 核验:2026-09-16 · 事实卡:LITERT-01, BENCHMARK-01

先给结论

本地 AI 的执行后端需要让用户直接看到实际选用的执行路径与是否发生回退,这一信息只能来自观测与日志,不能由用户提供的配置项推断而来。把请求里填写的 backend 名直接当作实际生效的 backend 来报告,是把输入当作观测,会掩盖真实的执行路径,因此报告必须基于实际执行结果,而非配置声明。

需要先收集的证据

至少把下面三项与同一个 artifact、运行时和任务绑定:

  • 实际 backend 证据
  • 回退转换记录
  • 用户状态 fixture

若缺一项,就把它写成未知,不要用模型参数、芯片宣传或网上截图代替。

实施流程

实际 backend 的证据、回退发生的转换记录、以及用户状态相关的 fixture 需要被完整保存并放在一起对照查看。只有这三类记录同时存在,才能确认一次执行究竟使用了哪条路径、是否切换过回退、以及对应时刻的用户状态,三者缺一会让“执行后端可见”失去可核对的基础。

  1. 固定来源与 revision
  2. 记录长度与 digest
  3. 下载到临时文件
  4. 安全续传与验证
  5. 完成后再切换
  6. 提供修复与回滚

最容易写错的地方

  • 把请求 backend 当实际 backend
  • 隐藏回退

已知的错误模式包括把请求参数中的 backend 直接当作实际 backend,以及把发生过的回退从结果里隐藏掉。发布结论时只能引用这些已经记录在案的内容,凡是没有实际 backend 证据、回退转换记录或用户状态 fixture 支持的结论,都不应被写出,相关材料须落在事实卡边界 ID LITERT-01 与 BENCHMARK-01 所限定的范围内。

最小复现记录

层必须记录
设备型号、芯片、系统、RAM 档位
软件App 版本与 git commit
模型家族、变种、revision、格式、长度、hash、量化
运行时版本、请求后端、实际后端证据
任务fixture、输入 hash、prompt hash、输出规则
结果完成、失败、取消、回退与恢复

发布检查单

  • 目标查询已在开头直接回答。
  • 所有数字都能回到事实卡或原始记录。
  • artifact、runtime、设备与任务没有混淆。
  • 失败、取消、清理与回退都被测试。
  • 隐私和网络边界单独说明。
  • 结论只适用于记录中的配置。

事实来源与延伸

去 Cove 看对应英文证据页 →

同类页面

返回端侧 AI 专题 →

这个页面有问题?

提交时会附带当前页面地址和浏览器信息,帮助我们定位问题。不填联系方式即为匿名。