端侧 AI · 内存
本地 AI 内存基线应该在哪些阶段测
记录加载前、加载后、任务中、取消后与关闭后的应用内存。
主查询：本地 AI 内存基线 · 核验：2026-09-16 · 事实卡：MEMORY-01, BENCHMARK-01
先给结论
记录加载前、加载后、任务中、取消后与关闭后的应用内存，是本地 AI 内存基线的五个必测检查点，不能用其他阶段做替代或向外推断。必须分别采样这些时刻的进程占用，任何缺少其中之一的记录都应视为该基线未完成，并按既有定义回填缺失数据，而不是依据外部经验补全。
需要先收集的证据
至少把下面三项与同一个 artifact、运行时和任务绑定：
- 指标定义
- 生命周期检查点
- 重复运行序列
若缺一项，就把它写成未知，不要用模型参数、芯片宣传或网上截图代替。
实施流程
为了让这五个检查点可被复用，指标定义必须先于采样固定，生命周期检查点须与之一一对应，并在重复运行序列中保持一致顺序与触发条件。指标定义应明确单位与口径，生命周期检查点应对齐每个采样时刻，重复运行序列需保证每次进入任务的方式相同，从而让多次结果可在同一框架下对比。
- 记录真实 artifact
- 测未加载基线
- 测加载后状态
- 跑代表任务
- 跑最大承诺输入
- 连续运行并观察释放
最容易写错的地方
- 用设备剩余 RAM 代替进程内存
- 峰值不写发生阶段
常见错误模式是把设备剩余 RAM 误当作进程内存，以及把峰值数值直接发布却不写明发生阶段。任何向公众声明的结论都必须限定在已记录的检查点与重复运行序列之内，遇到用剩余 RAM 替代或省略发生阶段的记录时，应回到 MEMORY-01 与 BENCHMARK-01 的事实卡边界内进行重测，而不是凭推测修正。
最小复现记录
| 层 | 必须记录 |
|---|---|
| 设备 | 型号、芯片、系统、RAM 档位 |
| 软件 | App 版本与 git commit |
| 模型 | 家族、变种、revision、格式、长度、hash、量化 |
| 运行时 | 版本、请求后端、实际后端证据 |
| 任务 | fixture、输入 hash、prompt hash、输出规则 |
| 结果 | 完成、失败、取消、回退与恢复 |
发布检查单
- 目标查询已在开头直接回答。
- 所有数字都能回到事实卡或原始记录。
- artifact、runtime、设备与任务没有混淆。
- 失败、取消、清理与回退都被测试。
- 隐私和网络边界单独说明。
- 结论只适用于记录中的配置。