feat: add reduced AttnRes trace lab

This commit is contained in:
wuyang
2026-07-30 07:30:01 +08:00
parent d1d9d22bf3
commit 4ce780dcc9
11 changed files with 1070 additions and 26 deletions
+8
View File
@@ -438,11 +438,19 @@ src/data/k3-flashkda-runtime.json
- [x] 使用 CUDA 13.0 / glibc 2.39 隔离环境产出可校验 `sm_120a` wheel;
- [x] RTX 5090 上六组 FlashKDA / official torch reference exact correctness;
- [x] K3 fixed / varlen shape、三种 state mode 的 1,800 个 CUDA Event samples;
- [x] 在不裁剪 `A_log` 的前提下完成独立缩小 AttnRes 机制实验;
- [x] Baseline / Full / Block × 三 seed × 2,000 steps 与指定正式格全新进程 exact replay;
- [x] BPC 主结果、Residual RMS、depth weights、gradient counterevidence 与执行成本公开入账;
- [ ] 取得真实 hidden-state / router load trace;
- [ ] 取得可加载的 reduced checkpoint、官方 trace 或多机资源;
- [ ] 对 Figure 3 / 4 / 5 做真实数值重绘;
- [ ] 对 AttnRes 读取分布做真实 token / layer trace。
这里的“缩小 AttnRes 实验”只完成独立机制 probe,不满足最后一项真实 K3 trace。完整合同与
审计见 `K3_ATTNRES_REDUCED_PROTOCOL.md` / `K3_ATTNRES_REDUCED_AUDIT.md`。下一轮优先
对齐论文 gradient 观测对象并增加 depth / budget;真实 checkpoint forward 继续等待公开
`A_log [128] → [96]` 转换或权重修订。
## 11. 发布与回归证据
- 源提交:`2ef846f`;