2026 训练全景流水线

一个大模型从数据到发布的完整旅程

从互联网原始数据到最终的 API 端点,一个 2026 年前沿大模型要经历六个阶段。
本章还原完整的生产流水线,每个阶段的输入、做什么、输出。

§1 数据采集与清洗

预训练数据决定了模型的"知识上限"。2026 年的前沿模型使用 15T~30T token 的训练数据。

🔬 可视化:数据流水线

🌐
互联网爬取
Common Crawl
学术论文
代码仓库
📚
授权数据
出版商授权
书籍/论文
专业领域
🤖
合成数据
AI 生成
推理链
代码样本
清洗管线(典型步骤):
去重 → 语言检测 → 质量过滤 → 毒性过滤 → 去个人信息 → 格式标准化

数据配比——2026 年典型配方

代码
35%
英文网页
25%
学术论文
15%
多语言
15%
数学/推理
10%

§2 预训练——基座模型的诞生

用 15T+ token 数据训练一个基座模型。这是成本最高的阶段—— 训练一个 500B 模型需要约 2000+ GPU × 月。

🔬 可视化:预训练规模

7B 模型
~300B tokens · 32 GPU × 月
70B 模型
~15T tokens · 512 GPU × 月
500B MoE
~30T tokens · 2048 GPU × 月
2.8T MoE (Kimi K3)
~15T tokens · 万卡集群 × 月

2026 预训练的关键技术

MoE 混合专家
总参数大(500B+),每 token 只激活一小部分(5~10B)
3D 并行
数据并行 × 张量并行 × 流水线并行
FP8 混合精度
权重 FP8 + 梯度 BF16,显存省一半
多 token 预测 (MTP)
一次预测多个 token,训练时增加信号密度

MoE 路由的数学:每 token 到底激活多少,以及怎么防「一个人干活」

模型总参数每 token 激活激活占比专家选择
DeepSeek-V3671B37.0B5.51%256 选 8(top-k/E = 3.12%)
Qwen3-235B-A22B235B22.0B9.36%128 选 8(6.25%)
Kimi K21000B32.0B3.20%384 选 8(2.08%)
Mixtral-8x7B47B12.9B27.62%8 选 2(25%)

路由只是一次 softmax:g = softmax(Wr·x) 给出 E 个专家的匹配度, 只留 top-k 再归一(两个权重 0.62 与 0.38 → 归一后 0.62/(0.62+0.38) = 0.62), 输出 = Σ 权重 × 专家 FFN。参数按 dense 规模存储、算力按小模型消耗—— 这就是上表「激活占比」一列的由来,也是 MoE 单卡推理并不便宜的原因(权重照样要全部读进显存)。

辅助均衡 loss(Switch Transformer):Laux = E · Σi fi·Pi, fi 是路由到专家 i 的 token 占比、Pi 是平均路由概率。 完全均衡(256 个专家各接 1/256)时 Laux = 256×256×(1/256)² = 1.0(最小值); 全部 token 塌到一个专家时恶化到 256×1×1 = E = 256。 aux loss 压的正是「一人干活、全员围观」的专家塌缩——没有它,softmax 路由会自然走向赢者通吃。

§3 中间训练(Midtraining)——2025 年新增的阶段

预训练之后、后训练之前,2025-2026 年新增了中间训练阶段: 用高质量数据做"定向强化",让模型在特定方向上变强。

🔬 可视化:中间训练做什么

预训练基座
通用能力 ████████
广泛但浅层
↓ 中间训练(~1T tokens 高质量数据)
中间训练后
代码+数学 ████████████████████
定向深度强化

中间训练 vs 预训练

维度预训练中间训练
数据量15~30T tokens0.5~2T tokens
数据质量海量、多样、有噪声精选、高质量、定向
学习率较大(3e-4)较小(1e-5 ~ 5e-5)
目的通用知识定向强化(代码/数学/推理)

§4 后训练——让模型"变聪明"

后训练是第三章详细讲过的内容:SFT → 偏好对齐 → RLVR。 这里放在全景视角中看它的位置。

🔬 后训练在全景中的位置

预训练 ✅
→
中间训练 ✅
→
SFT
↓
DPO/RLHF
↓
RLVR
→

§5 蒸馏——把大模型的能力注入小模型

大模型效果好但部署贵。蒸馏用大模型的输出来训练小模型, 让小模型以低成本达到接近大模型的效果。

🔬 可视化:蒸馏过程

教师模型(大)
DeepSeek R1
671B 参数
生成高质量推理链
蒸馏数据
→→→
800K 条推理样本
学生模型(小)
R1-Distill
7B / 14B / 32B / 70B
用教师输出训练
R1-Distill-32B 在 AIME 2024 上达到 63.5%(教师 R1 的 ~80% 水平), 但推理成本只有 R1 的 1/100。

§6 评估与发布

模型训练完成后,需要在多个维度上评估,确保质量达标后才能发布。

2026 评估体系

📐
基准测试
MMLU, AIME, SWE-Bench, RULER 等
🛡️
安全测试
红队攻击、毒性评估、越狱测试
⚡
性能测试
TTFT, TPOT, 吞吐量, 显存占用
🌍
多语言测试
跨语言能力一致性评估

§7 2026 完整流水线总览

🔬 可视化:从零到发布的完整旅程

1
数据采集
15~30T tokens
持续 6~12 个月
→
2
预训练
基座模型
2~4 个月
→
3
中间训练
定向强化
2~4 周
→
4
后训练
SFT+RL+RLVR
2~6 周
→
5
蒸馏
→ 小模型
1~2 周
→
6
评估发布
API + 开源
1~2 周

2026 年旗舰模型时间表

模型发布参数规模训练数据
DeepSeek V42026.061.6T MoE (49B active)~30T tokens
Kimi K32026.072.8T MoE (104B active)~15T tokens
Qwen3.8-2.4T2026.082.4T MoE (95B active)~36T tokens
GLM-5.32026.08744B (40B active)~20T tokens
DeepSeek V4.1-Flash2026.09552B (8B/16B)CED 架构

一句话总结

2026 年训练一个前沿大模型 = 6~12 个月 的完整流水线
数据采集 → 预训练 → 中间训练 → 后训练(SFT + DPO + RLVR)→ 蒸馏 → 评估发布

总成本:$1 亿 ~ $10 亿+(取决于模型规模)
趋势:后训练占比越来越大(RL 是新的护城河)

🎉 风哥AI系列教程-图解大模型底裤第一章完结

从自回归到 Transformer,从 SFT 到 RLVR,从单 Agent 到蜂群架构,从预训练到发布

◂ 返回导航主页 🔬 详解:所有训练方法的数据→模型→Loss