kali20gakki/msAgent / skills/accuracy/loss-gnorm-diff-analyzer
loss-gnorm-diff-analyzer
Verified端到端分析两侧 msprobe PyTorch statistics 原始 dump 数据(dump.json + stack.json + construct.json)与精度问题现象(loss / grad norm / 输出不一致等),按「确定性预处理 → 多视角候选发现 → 汇总排序 → 分级定向验证 → 报告校验」流程识别可疑候选节点并构建到目标异常现象的因果链,交付主分析报告与结构化证据记录。当用户提供两侧 dump 目录并需要定位训练精度问题根因时使用。侧别判定:用户指定 target(待分析侧)/ golden(参考侧)优先;未指定时按目录名与数据内容推断(npu/gpu 等仅为软线索,不作硬性假设);不可靠时询问用户。
| File | Kind | Size |
|---|---|---|
| SKILL.md | skill md | 31.9 KB |
| references/alignment-playbook.md | markdown | 4.8 KB |
| references/candidate-discovery.md | markdown | 6.1 KB |
| references/causal-validation.md | markdown | 4.8 KB |
| references/dump-analysis-mechanism.md | markdown | 44.9 KB |
| references/evidence-and-state.md | markdown | 11.2 KB |
| references/hard-constraints.md | markdown | 68.6 KB |
| references/report-validation.md | markdown | 12.4 KB |
| scripts/dump_analyzer.py | script | 77.4 KB |
| scripts/make_evidence.py | script | 5.7 KB |
| scripts/query.py | script | 63.4 KB |
| scripts/report_check.py | script | 8.5 KB |
references/candidate-discovery.md
View on GitHub# 候选发现视角手册
> 阶段三使用。目标:**提高可疑节点召回率**——本阶段只登记候选与初步证据,不要求闭合因果链、不深挖。每个视角执行完,把发现的候选登记进 `investigation.json`(含发现渠道、初步证据、匹配质量、待验证问题)。漏检比多登记更危险:排序与验证阶段自然会压缩候选池。
## 视角 1:速览高置信锚点(首要,逐条必查)
摘要顶部「⚡ 决定性锚点速览」是关系型指纹,对统计失真鲁棒。命中 ≠ 定罪,但**每条必须在报告中留痕**(作为证据,或"已核查、非因果"及理由):
| 锚点 | 含义 | 初步候选方向 |
|---|---|---|
| 分侧守恒违反 | 某侧违反数学恒等式 | 违反侧归约实现/精度缺陷或捕获不忠实(HC-D3 分侧结论) |
| 操作数身份不对称 | 单侧消费了非其生产链上的张量 | 单侧传错张量/缓冲区别名(按四元组反查生产者) |
| 梯度覆盖缺口 | 参数梯度大分歧而所属模块反向未捕获 | 差异产生于未捕获反向段;须回答覆盖内指纹能否解释 |
| 聚合输入单侧悬殊 | norm 类聚合输入一侧 ≥100× 且无窗口内生产者命中 | 载体生产路径未被捕获(触发排除迁移禁令 HC-C5) |
| 反向内产生分歧 | 反向输入逐位一致、输出显著分歧 | 该反向实现路径候选(控制类操作数、dtype 分派) |
| 首分歧 / Top 结构簇 | 最早显形点 | 归属候选(HC-D11) |
注意锚点置信度分组:`high`(精确匹配对、族无计数漂移)才进速览;`low` 组(含命名变体匹配或漂移族)只作线索,不得作定罪证据。
## 视角 2:首分歧锚点
前向首分歧 / 反向首分歧 / 结构首分歧(`analysis_summary.md`)。检查锚点之前所有匹配节点是否干净——干净则锚点是 dump 覆盖内最早显形点;差异若在更早处(输入数据、数据加载,覆盖之外)已被引入,如实说明覆盖缺口(HC-D11)。首分歧所在的结构分歧簇是"最早显形归属候选"(位序后果见 HC-C3②)。
## 视角 3:结构分歧簇
dtype_clusters / shape_clusters / 标量参数差异 / 槽位缺失(脚本输出)。逐簇登记(后续有逐条研判义务 HC-D1,不得一揽子豁免为"背景差异/适配实现")。**控制类操作数**(mask/索引/条件输入/scale——决定"算不算、算多少")单列登记:其结构差异即使数值上"语义等价"也可能改变反向分派路径。
## 视角 4:参数梯度分解
`parameters_grad` 节点的 Norm² 差(target − golden)排序表:gnorm² 差 ≈ Σᵢ(tᵢ² − gᵢ²),按平方差贡献排序即"谁造成 gnorm 差异"的直接分解——避免被绝对范数大但两侧相等的参数误导。沿高贡献参数的反向链路(parameters_grad → 对应 Module/反向算子的 output → input)上溯找引入点。参数梯度是累积量(batch×sequence 求和、可能多 micro-batch 累积),量级论证计入累积语义与捕获缺口。gnorm 估计 `√Σᵢ Normᵢ²` 与用户报告 gnorm 交叉核对(偏差大 → 有参数未捕获)。
## 视角 5:未匹配节点
一侧独有计算可能是根因所在(一侧多出的预处理、缺失的计算、不同的执行路径),不是对齐失败的边角料。按 alignment-playbook §5 归类:ONE_SIDE_MISSING / SHARD_ONLY / FUSED_NO_COUNTERPART / ORDER_DIVERGED / AMBIGUOUS_MULTI_CANDIDATE / NAME_UNKNOWN。两侧独有节点分别按族聚合登记(给出执行序位置与前后锚点)。
## 视角 6:张量同一性指纹
统计四元组相等类**关系型证据**(不受绝对值型失真影响):
- 某操作数统计与同 dump 内另一节点输出完全一致(疑似传错张量/缓冲区别名);
- 同侧"生产者输出 ≠ 消费操作数"而对侧两者一致(单侧断连)。
发现即按四元组反查生产者(查询模式见 mechanism §3.6),把"谁把它传进来的"登记为候选。锚点操作数溯源是固定步骤(HC-D12),不等"觉得可疑"才查。
## 视角 7:就地写算子
窗口内写语义 API(`__setitem__`/`add_`/`mul_`/`copy_`/`fill_`/`masked_fill_` 等)+ 同侧对同一缓冲的后续读/消费节点 → 登记"写-消费三值核查"待办(HC-D4)。从 dump 节点名即可扫描登记,不必先判定缓冲对应关系。
## 视角 8:Top 差异表
仅作线索,不作排序依据——差异最大 ≠ 根因;Top 榜会漏掉结构性差异与被错配族稀释的信号。用于补充前述视角遗漏的高分歧数值节点。
## 视角 9:现象专项入口
- **gnorm 现象**:`√Σ(tᵢ²−gᵢ²)` 分解(视角 4);裁剪输入悬殊是载体观测点(不是候选,HC-C1);归约类反向节点守恒检验(HC-D3);全局规约量在单 rank dump 里只有本地分片值,跨 rank 聚合后才能与框架自报值对比。
- **loss 现象**:loss 由最终输出与 label 计算——先确认两侧 label/输入数据是否一致(常在数据加载/预处理段),再沿前向找最早显形点。首分歧若在模型入口之前(数据预处理、图像尺寸、interpolate 参数、mask 构造),那是根因所在,不是背景噪声。
## 发现纪律
- 不因量小/位置晚丢线索(登记后由排序与验证决定去留);量级不参与位序。
- 发现渠道记录进候选(多条独立渠道支持是排序依据,同源不算独立)。
- 漂移族/变体匹配/分片不可比的差异先怀疑错配(alignment-playbook),登记时标注匹配质量。
- 结构性分歧(dtype/值域/有无)与内容性数值分歧是不同指纹类,分别登记(HC-E1)。
- 发现阶段允许提出待验证假设(如"窗口外注入"),但不得用假设替代证据。
## 收尾自查(发现阶段结束条件)
- 反向链路与未匹配节点都看过了(不是只看 Top 差异表)?
- 速览锚点全部登记为待核查项?
- 两侧独有节点、参数梯度分解、标量参数差异都覆盖?
- 就地写算子扫描过(视角 7)?
- 计划内视角均已执行,候选及来源证据已登记?
Related skills
| Skill | Stars | Updated | Works with | Status | Install |
|---|---|---|---|---|---|
| slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack." | Stars: 198k | Updated | Claude CodeCodex | Verified | Install |
| ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read. | Stars: 194k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report. | Stars: 194k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt. | Stars: 194k | Updated | Claude CodeCodex | Verified | Install |