PERSONAL AI LAB从零开始,真正训练自己的模型30 天实验计划
30 DAY LAB

30 天实验路线

每天不是“看完一章”,而是必须留下一个可验证产物。卡住时允许跨两天,但不允许用“看懂了”代替实验。

任务当天验收
Day 1建立实验室目录,学终端与 Python 最小集能运行 Python、创建 venv、读 JSONL
Day 2大模型第一性原理手画 Token→Transformer→Logits
Day 3第一次运行小模型固定 prompt 得到可复现输出
Day 4理解模型文件与 chat template能说明 config/tokenizer/weights
Day 5设计领域目标行为 Rubric完成 100 分评分表
Day 6制作 20 条金标准样本人工逐条检查
Day 7扩成 dataset-v0.1100+ 条并拆 train/val/test
Day 8PyTorch Tensor / Linear跑通 forward
Day 9Loss / backward / optimizer亲眼看到参数变化
Day 10Attention 直觉和 QKV画 tensor shape
Day 11Transformer block能阅读最小实现
Day 12训练前 Benchmark冻结 30 条 test
Day 13QLoRA 环境 smoke test20 step 不报错
Day 14第一次 QLoRA保存 adapter
Day 15加载 adapter同 prompt 对比 base/tuned
Day 16做 30 条 Eval得到第一份 score
Day 17分析失败案例至少分 4 类
Day 18修 dataset-v0.2只修明确错误
Day 19第二轮 QLoRA一次只改一个主要变量
Day 20Pairwise 盲测得到 win-rate
Day 21设计 Deep Work File Manifest拆 5 个文件 contract
Day 22Writer→Reviewer→Rewrite低于 85 自动返工
Day 23Consistency Checker找到跨文件冲突
Day 24制作 preference 数据20–50 chosen/rejected
Day 25理解 DPO完成 go/no-go 决策
Day 26Continued Pretraining 决策统计领域 token 与必要性
Day 27Mini GPT tokenizer/get_batch能产生 x/y
Day 28Mini GPT attention/block前向跑通
Day 29Mini GPT 训练与生成从随机权重生成文本
Day 30建立四大 Registry 与下一阶段路线形成 Personal AI Lab v1

← 返回课程首页