30 DAY LAB
30 天实验路线
每天不是“看完一章”,而是必须留下一个可验证产物。卡住时允许跨两天,但不允许用“看懂了”代替实验。
| 天 | 任务 | 当天验收 |
|---|---|---|
| Day 1 | 建立实验室目录,学终端与 Python 最小集 | 能运行 Python、创建 venv、读 JSONL |
| Day 2 | 大模型第一性原理 | 手画 Token→Transformer→Logits |
| Day 3 | 第一次运行小模型 | 固定 prompt 得到可复现输出 |
| Day 4 | 理解模型文件与 chat template | 能说明 config/tokenizer/weights |
| Day 5 | 设计领域目标行为 Rubric | 完成 100 分评分表 |
| Day 6 | 制作 20 条金标准样本 | 人工逐条检查 |
| Day 7 | 扩成 dataset-v0.1 | 100+ 条并拆 train/val/test |
| Day 8 | PyTorch Tensor / Linear | 跑通 forward |
| Day 9 | Loss / backward / optimizer | 亲眼看到参数变化 |
| Day 10 | Attention 直觉和 QKV | 画 tensor shape |
| Day 11 | Transformer block | 能阅读最小实现 |
| Day 12 | 训练前 Benchmark | 冻结 30 条 test |
| Day 13 | QLoRA 环境 smoke test | 20 step 不报错 |
| Day 14 | 第一次 QLoRA | 保存 adapter |
| Day 15 | 加载 adapter | 同 prompt 对比 base/tuned |
| Day 16 | 做 30 条 Eval | 得到第一份 score |
| Day 17 | 分析失败案例 | 至少分 4 类 |
| Day 18 | 修 dataset-v0.2 | 只修明确错误 |
| Day 19 | 第二轮 QLoRA | 一次只改一个主要变量 |
| Day 20 | Pairwise 盲测 | 得到 win-rate |
| Day 21 | 设计 Deep Work File Manifest | 拆 5 个文件 contract |
| Day 22 | Writer→Reviewer→Rewrite | 低于 85 自动返工 |
| Day 23 | Consistency Checker | 找到跨文件冲突 |
| Day 24 | 制作 preference 数据 | 20–50 chosen/rejected |
| Day 25 | 理解 DPO | 完成 go/no-go 决策 |
| Day 26 | Continued Pretraining 决策 | 统计领域 token 与必要性 |
| Day 27 | Mini GPT tokenizer/get_batch | 能产生 x/y |
| Day 28 | Mini GPT attention/block | 前向跑通 |
| Day 29 | Mini GPT 训练与生成 | 从随机权重生成文本 |
| Day 30 | 建立四大 Registry 与下一阶段路线 | 形成 Personal AI Lab v1 |