Skip to content

Ascend/msagent / skills/quantizer/msmodelslim-anti-outlier-adapt

msmodelslim-anti-outlier-adapt

Verified

在基础模型适配完成后,按算法适配并安装 Adapter 接口,依据目标模型真实 forward 生成并验证 final-logits patch,执行单算法 msModelSlim 离群值抑制变换、官方计算图提取和浮点 logits 门禁。

references/quarot-adaptation.md

View on GitHub
# QuaRot 图关系参考

接口方法和可复制的最小实现先看
[interface-quick-reference.md](interface-quick-reference.md);本文件只补充 QuaRot 的拓扑核对项。

参考 `QuaRotInterface` 的 `get_ln_fuse_map`、`get_bake_names` 和
`get_rotate_map(block_size)` 所需语义,整理图节点、图边和约束。

从目标源码推导映射,包括残差流生产者/消费者、embedding/head 关系、attention 与
MLP projection、融合分区、可寻址 expert、视觉融合输入和辅助 decoder 路径。根据
被变换权重的维度推导左乘或右乘。只有目标 norm 语义确有需要时才执行 mean bake;
不得在没有证据时把 LayerNorm 规则套用到 RMSNorm。

从官方 `ComputationGraph` 核对:

- 接口所需的关系是否可由当前拓扑表达;
- 代表性的 norm fusion、bake、全局和局部旋转映射;
- 从源码推导的 target side、维度和融合切分;
- 独立定义的 dense、expert 或辅助分支覆盖范围;
- 重复或冲突的 target-side 条目;
- 目标特定的非法 block size 和 shape 行为。

本阶段固定适配 QuaRot:完成必要映射、调用真实 processor,并按 `validation.md` 比较变换前后浮点模型最终 logits。
不得追加量化 processor。在线/离线模式、合法 block size/shape 和实际参数须写入验证记录。
slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack."Stars: 198kUpdated Claude CodeCodexVerifiedInstall
ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read.Stars: 194kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report.Stars: 194kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt.Stars: 194kUpdated Claude CodeCodexVerifiedInstall