Files
llm-atlas/src/pages/progress/index.astro
T
2026-07-29 07:52:27 +08:00

420 lines
21 KiB
Plaintext
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
---
import BaseLayout from "@/layouts/BaseLayout.astro";
import { chapters } from "@/data/chapters";
const average = Math.round(chapters.reduce((sum, chapter) => sum + chapter.progress, 0) / chapters.length);
const published = chapters.filter((chapter) => chapter.status === "published").length;
const researching = chapters.filter((chapter) => ["researching", "drafting"].includes(chapter.status)).length;
const workstreams = [
{ label: "研究框架与规范", value: 83, next: "给 Scaling 与推理专题补逐篇图表/实验精读层级" },
{ label: "网站设计系统", value: 89, next: "打印样式与更多通用可视化组件" },
{ label: "Kimi K3 深读", value: 66, next: "扩写 pre-training / infra 逐图笔记" },
{ label: "语言模型前史", value: 78, next: "逐图精读 KneserNey、LSTM 与 Bahdanau,并加入真实小语料复现" },
{ label: "Transformer 基础", value: 79, next: "逐图精读多头电路、Pre/Post-LN 与真实 kernel / KV 配置" },
{ label: "Scaling Laws", value: 74, next: "加入真实拟合复现、置信区间与更多模型族对照" },
{ label: "数据工程与预训练配方", value: 73, next: "逐图精读 FineWeb / DCLM,加入真实去重与 mixture traces" },
{ label: "DeepSeek 专题", value: 71, next: "补 R1 / DAPO 的逐图训练轨迹与复现对照" },
{ label: "指令微调与人类偏好", value: 75, next: "加入真实偏好分歧样本、RM 长度偏置与 PPO/DPO 小模型复现" },
{ label: "推理与测试时扩展", value: 76, next: "真实模型采样曲线、PRM 案例与逐篇图表精读" },
{ label: "工具使用与长程 Agent", value: 74, next: "补真实环境 traces、cross-harness 对照、Agent RL 训练曲线与安全案例" },
{ label: "原生多模态", value: 76, next: "补真实视觉 Token traces、跨分辨率消融、OCR 失败案例与视觉 Agent 安全轨迹" },
{ label: "稀疏计算与 MoE", value: 74, next: "补充真实集群 traces 与专家特化案例" },
{ label: "长上下文专题", value: 72, next: "加入更多论文逐图笔记与真实模型配置对比" },
{ label: "大规模训练系统", value: 71, next: "补真实集群 traces、故障案例与精确 topology 配置" },
{ label: "数值精度、优化器与稳定性", value: 75, next: "加入真实 kernel 吞吐、长程训练 traces 与逐图论文精读" },
{ label: "引用与事实检查", value: 57, next: "自动化外链复查与来源等级扩展" },
{ label: "开源与部署", value: 100, next: "每轮保留不可变镜像、提交与回滚点" },
];
---
<BaseLayout
title="持续建设进度"
description="LLM Atlas 的研究、写作、可视化、引用核验、开源仓库与 k1412 部署实时进度。"
section="progress"
>
<header class="page-hero">
<div class="page-hero-inner">
<div>
<p class="eyebrow"><span>PUBLIC LEDGER</span> BUILD IN THE OPEN</p>
<h1>庞大工作需要一份<br />公开、可检查的账本</h1>
<p class="lead">
这里不把“正在研究”包装成“已经完成”。每个专题显示成熟度、下一检查点和证据边界;
本地 PROGRESS.md 与网站同步维护。
</p>
</div>
<dl class="page-facts">
<div><dt>OVERALL</dt><dd>专题平均 {average}%</dd></div>
<div><dt>READABLE</dt><dd>{published} 个首版可读专题</dd></div>
<div><dt>ACTIVE</dt><dd>{researching} 个研究/写作中</dd></div>
<div><dt>UPDATED</dt><dd>2026-07-29 07:46 CST</dd></div>
<div><dt>MODE</dt><dd>持续迭代,不锁死版本</dd></div>
</dl>
</div>
</header>
<section class="section" id="workstreams">
<div class="section-heading">
<div>
<p class="eyebrow"><span>01</span> WORKSTREAMS</p>
<h2>十八条工作流同时推进,但不混淆“有页面”和“已核验”</h2>
</div>
<p class="section-lead">
内容首版优先打通全局脉络;随后每轮迭代选择一个专题推进到论文/工程层,并做独立事实复核。
</p>
</div>
<div class="stream-list">
{workstreams.map((stream, index) => (
<article>
<span>{String(index + 1).padStart(2, "0")}</span>
<div>
<h3>{stream.label}</h3>
<p>下一检查点:{stream.next}</p>
</div>
<div class="stream-progress">
<b>{stream.value}%</b>
<div class="progress-track"><span style={`width:${stream.value}%`}></span></div>
</div>
</article>
))}
</div>
</section>
<section class="section" id="done">
<div class="section-heading">
<div>
<p class="eyebrow"><span>02</span> COMPLETED THIS ITERATION</p>
<h2>当前版本已经落地什么</h2>
</div>
<p class="section-lead">下列项目都能在仓库或网站中直接检查,不是计划项。</p>
</div>
<div class="check-grid">
<article><span>✓</span><h3>研究目标已持久化</h3><p>总体路线、完成标准、来源等级与进度账本已写入项目。</p></article>
<article><span>✓</span><h3>K3 报告已结构化拆解</h3><p>47 页报告目录、151 条参考来源和架构/后训练/系统主线已经提取。</p></article>
<article><span>✓</span><h3>16 专题知识图</h3><p>从语言模型基础到评测安全,包含先修依赖和三条贯穿案例。</p></article>
<article><span>✓</span><h3>编辑式网站系统</h3><p>响应式导航、章节模板、侧栏、进度、论文链和证据提示组件。</p></article>
<article><span>✓</span><h3>四十三个原创交互视图</h3><p>K3、语言模型前史、Transformer、DeepSeek、长上下文、MoE、推理、Agent、多模态,以及训练系统、Scaling、数据工程、数值和 Alignment 专题。</p></article>
<article><span>✓</span><h3>十四篇首版长文</h3><p>K3、语言模型前史、Transformer、DeepSeek、Scaling、数据工程、长上下文、MoE、后训练、推理、Agent、原生多模态、训练系统与数值优化专题。</p></article>
<article><span>✓</span><h3>语言模型前史深度专题</h3><p>八张独立问题账、33 个正式节点、20 段长文与概率—向量—记忆—对齐四联实验。</p></article>
<article><span>✓</span><h3>Transformer 深度专题</h3><p>十张独立问题账、40 个正式节点、21 段正文与 QKV—Mask—多头位置—Block 成本四联实验。</p></article>
<article><span>✓</span><h3>Scaling Laws 深度专题</h3><p>九张账、29 个一手节点、DeepSeek/Kimi 双谱系与曲面—部署—复用—涌现四联实验。</p></article>
<article><span>✓</span><h3>数据工程深度专题</h3><p>十二张账、31 个一手节点、DeepSeek/Kimi 双谱系与流水线—去重—混合—改写四联实验。</p></article>
<article><span>✓</span><h3>长上下文深度专题</h3><p>五张成本账、26 篇一手论文、10+ 机制图与 8 策略交互实验室。</p></article>
<article><span>✓</span><h3>MoE 深度专题</h3><p>六张账、19 篇一手论文、DeepSeek/K3 主线与路由—容量—通信交互实验室。</p></article>
<article><span>✓</span><h3>推理深度专题</h3><p>八张账、30 篇一手论文链、DeepSeek/Kimi 双主线与三页签互动实验室。</p></article>
<article><span>✓</span><h3>训练系统深度专题</h3><p>九张账、37 个一手节点、DeepSeek/Kimi 双谱系与显存—网格—气泡—通信实验室。</p></article>
<article><span>✓</span><h3>数值、优化器与稳定性深度专题</h3><p>十张账、36 个一手节点、K2/K3 与 DeepSeek-V3/V4 双谱系,以及格式—状态—更新—失稳四联实验。</p></article>
<article><span>✓</span><h3>指令微调与人类偏好深度专题</h3><p>十二张账、44 个一手节点、DeepSeek/Kimi 后训练双谱系,以及 SFT—RM—PPO/DPO—配方四联实验。</p></article>
<article><span>✓</span><h3>工具使用与长程 Agent 深度专题</h3><p>十四张账、52 个一手节点、DeepSeek/Kimi Agent 双谱系,以及循环—工具契约—可靠性—长程 RL 四联实验。</p></article>
<article><span>✓</span><h3>原生多模态深度专题</h3><p>十六张账、55 个一手节点、DeepSeek 三分支、Kimi 三代 MoonViT,以及 Token—连接器—光学压缩—视觉闭环四联实验。</p></article>
<article><span>✓</span><h3>355 篇关键论文索引</h3><p>新增 ResNet、ALIGN、NaViT、DeepSeek-VL2、Janus、DeepSeek-OCR、Vision-R1 等 41 个多模态节点。</p></article>
<article><span>✓</span><h3>公开仓库与自托管发布</h3><p>源码公开到 git.k1412.top,网站由不可变镜像、Compose Manager 与 HTTPS 交付。</p></article>
</div>
</section>
<section class="section" id="queue">
<div class="section-heading">
<div>
<p class="eyebrow"><span>03</span> NEXT QUEUE</p>
<h2>下一批按“能闭环的专题”推进</h2>
</div>
<p class="section-lead">优先级由 K3 依赖度、初学者断点和论文可验证性共同决定。</p>
</div>
<div class="queue-table">
<div class="head"><b>优先级</b><b>专题</b><b>本轮交付</b><b>完成闸门</b></div>
<div><span>P0</span><strong>Transformer 二轮</strong><p>多头电路逐图 → Pre/Post-LN 真实 traces → Flash/KV 配置与 kernel 对照</p><em>逐图笔记 + 实测边界</em></div>
<div><span>P0</span><strong>语言模型前史二轮</strong><p>KneserNey / LSTM / Bahdanau 逐图 → 真实小语料复现 → tokenizer 公平性</p><em>可复现实验 + 逐图笔记</em></div>
<div><span>P0</span><strong>Scaling Laws 二轮</strong><p>真实拟合复现 → 置信区间 → 更多模型族与下游任务外推</p><em>可复现实验 + 逐图笔记</em></div>
<div><span>P1</span><strong>数据工程二轮</strong><p>FineWeb / DCLM 逐图 → 真实去重误伤 → mixture traces 与污染案例</p><em>逐图笔记 + 案例库</em></div>
<div><span>P1</span><strong>大规模训练系统二轮</strong><p>真实集群 traces → 故障恢复 → 精确 topology / kernel 配置</p><em>案例库 + 实测边界</em></div>
<div><span>P1</span><strong>数值与稳定性二轮</strong><p>真实 kernel 吞吐 → 长程失稳 traces → optimizer / quantization 逐图复现</p><em>实测边界 + 逐图笔记</em></div>
<div><span>P1</span><strong>长上下文二轮深化</strong><p>真实模型配置 → 内核细节 → 长上下文评测与失败案例</p><em>配置比较器 + 逐图论文笔记</em></div>
<div><span>P1</span><strong>MoE 二轮深化</strong><p>真实负载 traces → 专家特化可解释性 → 共享专家语义</p><em>案例库 + 集群证据</em></div>
<div><span>P1</span><strong>推理二轮深化</strong><p>真实 pass@k 曲线 → PRM 失败案例 → 逐篇图表精读</p><em>案例库 + 真实 traces</em></div>
<div><span>P1</span><strong>Alignment 二轮深化</strong><p>真实偏好分歧 → RM 长度偏置 → PPO/DPO 小模型复现</p><em>数据案例 + 可复现实验</em></div>
<div><span>P1</span><strong>Agent 二轮深化</strong><p>真实环境 traces → cross-harness ablation → Agent RL 曲线与提示注入案例</p><em>运行证据 + 安全案例库</em></div>
<div><span>P1</span><strong>原生多模态二轮</strong><p>真实视觉 Token traces → 跨分辨率 / connector 消融 → OCR 与视觉 Agent 安全失败案例</p><em>运行证据 + 逐图笔记</em></div>
</div>
</section>
<section class="section" id="method">
<div class="section-heading">
<div>
<p class="eyebrow"><span>04</span> QUALITY CONTROL</p>
<h2>每条结论怎样进入网站</h2>
</div>
<p class="section-lead">
Grok CLI 用于扩大检索覆盖和找遗漏;任何进入正文的机制、数字与时间仍回到原论文、官方仓库或正式文档。
</p>
</div>
<div class="evidence-pipeline">
<article><span>01 / DISCOVER</span><h3>发现线索</h3><p>K3 references、引用网络、Grok/web 检索、作者仓库。</p></article>
<i>→</i>
<article><span>02 / VERIFY</span><h3>打开一手来源</h3><p>核对标题、版本、公式、表格、实验设置和限制。</p></article>
<i>→</i>
<article><span>03 / EXPLAIN</span><h3>写四层解释</h3><p>直觉、机制、论文证据、工程代价;简化处显式标注。</p></article>
<i>→</i>
<article><span>04 / REVIEW</span><h3>交叉检查</h3><p>链接、数字、先修、图文一致性、移动端与可访问性。</p></article>
</div>
</section>
<section class="section compact" id="ledger">
<div class="section-heading">
<div>
<p class="eyebrow"><span>05</span> DECISION LEDGER</p>
<h2>重要决策不会只留在对话里</h2>
</div>
<p class="section-lead">更完整的机器可读进度和研究记录位于开源仓库的 ROADMAP.md、PROGRESS.md 与 research/。</p>
</div>
<div class="decision-list">
<div><time>2026-07-28</time><b>命名为 LLM Atlas</b><p>K3 是锚点,范围覆盖完整 LLM 技术史。</p></div>
<div><time>2026-07-28</time><b>按问题链组织</b><p>现象 → 旧瓶颈 → 关键论文 → 后继桥梁 → K3/DeepSeek 落点。</p></div>
<div><time>2026-07-28</time><b>优先原创重绘</b><p>架构图做成可缩放 SVG/HTML,明确简化与来源。</p></div>
<div><time>2026-07-28</time><b>双重开放许可</b><p>代码 MIT,原创文字与图 CC BY-SA 4.0。</p></div>
<div><time>2026-07-28</time><b>自托管交付</b><p>源码公开到 git.k1412.top,网站部署到 k1412 私有基础设施。</p></div>
<div><time>2026-07-29</time><b>推理按八张账组织</b><p>把答案、覆盖、选择、过程、预算、优化、分布与系统证据分开核算。</p></div>
<div><time>2026-07-29</time><b>训练系统按九张账组织</b><p>把模型状态、激活、并行、气泡、通信、专家、上下文、数值与可靠性分开核算。</p></div>
<div><time>2026-07-29</time><b>Scaling Laws 按九张账组织</b><p>把观测量、模型、数据、算术、配比、配方、外推、经济目标与能力阶段分开核算。</p></div>
<div><time>2026-07-29</time><b>数据工程按十二张账组织</b><p>把来源、解析、语言、质量、唯一性、污染、混合、变换、Tokenizer、Packing、课程与价值分开核算。</p></div>
<div><time>2026-07-29</time><b>Grok 数据线索与正式账本永久分离</b><p>1264 行正式研究账本只接受回查一手来源后的结论;203 行 Grok 产物保留为未核验发现队列。</p></div>
<div><time>2026-07-29</time><b>数值专题按十张账组织</b><p>把格式、缩放、计算、累加、搬运、更新、参数化、观测、恢复与证据经济分开核算。</p></div>
<div><time>2026-07-29</time><b>低精度结论必须写完整角色合同</b><p>对象、格式、scale 粒度、accumulator、输出与硬件不再被压缩成一个 dtype 标签。</p></div>
<div><time>2026-07-29</time><b>语言模型前史按八张账组织</b><p>预测单位、概率信息、上下文、稀疏性、分布式表示、循环记忆、序列转导与系统成本不再混成单一架构年表。</p></div>
<div><time>2026-07-29</time><b>NTP、MTP 与多模态永久分角色</b><p>K3 的统一视觉/文本 next-token objective、one MTP layer 与 EAGLE-3 draft bridge 分开记账;DeepSeek MTP 也不写成取代自回归。</p></div>
<div><time>2026-07-29</time><b>Transformer 按十张账组织</b><p>信息路径、几何、可见性、多头、位置、局部计算、深度、目标、系统成本与当代映射不再混成一个 Block。</p></div>
<div><time>2026-07-29</time><b>Attention 权重与因果解释永久分离</b><p>热力图可描述中间权重和提出假设;因果结论必须补消融、patching 或反事实干预。</p></div>
<div><time>2026-07-29</time><b>Agent 按十四张账组织</b><p>模型、harness、工具契约、环境、评测器、可靠性与安全不再被压成一个 Agent 分数。</p></div>
<div><time>2026-07-29</time><b>Agent 完成必须回到 final state</b><p>function schema、工具执行、业务状态、策略合规与 pass^k 分层评价;模型自报完成不作为证据。</p></div>
<div><time>2026-07-29</time><b>原生多模态按五层管道与十六张账组织</b><p>像素、视觉塔、压缩 / connector、主干与输出 / 工具闭环分开定位;“原生”再拆成数据、目标、优化、输入输出与 Agent 五维。</p></div>
<div><time>2026-07-29</time><b>DeepSeek 多模态永久保留三分支</b><p>VL/VL2 的理解、Janus 的统一生成、OCR 的光学压缩不画成错误的单向代际谱系。</p></div>
<div><time>2026-07-29</time><b>光学压缩实验分开报告值、教学插值与证据外区域</b><p>DeepSeek-OCR 的 &lt;10× / 20× 锚点标成作者报告;中间只做显式教学插值,超过范围不外推。</p></div>
</div>
</section>
<style>
.stream-list,
.decision-list {
max-width: 1050px;
border-top: 1px solid var(--line);
}
.stream-list article {
display: grid;
grid-template-columns: 55px 1fr 220px;
gap: 24px;
align-items: center;
min-height: 115px;
padding: 20px 8px;
border-bottom: 1px solid var(--line);
}
.stream-list article > span {
color: var(--copper);
font: 0.67rem/1 var(--mono);
}
.stream-list h3 {
font-size: 1.05rem;
}
.stream-list p {
margin-top: 8px;
color: var(--muted);
font-size: 0.74rem;
}
.stream-progress {
display: grid;
grid-template-columns: 46px 1fr;
gap: 12px;
align-items: center;
}
.stream-progress b {
color: var(--muted);
font: 0.68rem/1 var(--mono);
}
.check-grid {
display: grid;
grid-template-columns: repeat(3, minmax(0, 1fr));
max-width: 1100px;
border-top: 1px solid var(--line);
border-left: 1px solid var(--line);
}
.check-grid article {
min-height: 220px;
padding: 26px;
border-right: 1px solid var(--line);
border-bottom: 1px solid var(--line);
}
.check-grid span {
display: grid;
place-items: center;
width: 28px;
height: 28px;
border-radius: 50%;
background: var(--sage-pale);
color: var(--sage);
font-size: 0.75rem;
}
.check-grid h3 {
margin: 32px 0 12px;
font-size: 1.08rem;
}
.check-grid p {
color: var(--muted);
font-size: 0.78rem;
line-height: 1.72;
}
.queue-table {
display: grid;
max-width: 1100px;
border-top: 1px solid var(--line);
border-left: 1px solid var(--line);
}
.queue-table > div {
display: grid;
grid-template-columns: 90px 210px 1fr 230px;
}
.queue-table > div > * {
padding: 17px;
border-right: 1px solid var(--line);
border-bottom: 1px solid var(--line);
font-size: 0.77rem;
line-height: 1.6;
}
.queue-table .head {
background: var(--ink);
color: var(--paper-raised);
}
.queue-table .head b {
font: 0.61rem/1.5 var(--mono);
letter-spacing: 0.08em;
}
.queue-table span {
color: var(--copper);
font-family: var(--mono);
}
.queue-table p {
color: var(--muted);
}
.queue-table em {
color: var(--sage);
font-style: normal;
}
.evidence-pipeline {
display: grid;
grid-template-columns: repeat(3, minmax(150px, 1fr) 24px) minmax(150px, 1fr);
gap: 10px;
align-items: center;
max-width: 1100px;
}
.evidence-pipeline article {
min-height: 210px;
padding: 24px;
border: 1px solid var(--line);
background: var(--paper-raised);
}
.evidence-pipeline article > span {
color: var(--copper);
font: 0.58rem/1 var(--mono);
}
.evidence-pipeline h3 {
margin: 32px 0 12px;
font-size: 1.05rem;
}
.evidence-pipeline p {
color: var(--muted);
font-size: 0.75rem;
line-height: 1.7;
}
.evidence-pipeline > i {
color: var(--muted-light);
font-style: normal;
text-align: center;
}
.decision-list > div {
display: grid;
grid-template-columns: 120px 230px 1fr;
gap: 26px;
padding: 20px 8px;
border-bottom: 1px solid var(--line);
}
.decision-list time {
color: var(--copper);
font: 0.66rem/1.6 var(--mono);
}
.decision-list b {
font-size: 0.88rem;
}
.decision-list p {
color: var(--muted);
font-size: 0.78rem;
}
@media (max-width: 800px) {
.stream-list article,
.decision-list > div {
grid-template-columns: 45px 1fr;
}
.stream-progress {
grid-column: 2;
}
.check-grid {
grid-template-columns: 1fr;
}
.queue-table > div {
grid-template-columns: 68px 1fr;
}
.queue-table > div > p,
.queue-table > div > em {
grid-column: 2;
}
.queue-table .head b:nth-child(n + 3) {
display: none;
}
.evidence-pipeline {
grid-template-columns: 1fr;
}
.evidence-pipeline > i {
transform: rotate(90deg);
}
.decision-list p {
grid-column: 2;
}
}
</style>
</BaseLayout>