大模型全栈开发笔记 (LLM Full-Stack Engineering)#

从原理到实战,从微调到部署,构建属于你的 AGI 系统。

LLM Roadmap Python PyTorch


📚 目录大纲 (Syllabus)#

第一部分:大语言模型基础#

定位:小白入门,建立直觉。

第二部分:Transformer 架构揭秘#

定位:白盒视角,理解模型内部运作机制。

第三部分:数据工程与定制化#

定位:微调的前置技能,数据决定上限。

第四部分:大模型应用开发#

定位:构建由 LLM 驱动的复杂系统。

第五部分:工程实战工具栈#

定位:工欲善其事,必先利其器。

第六部分:生产部署与评估#

定位:从 Demo 到 Production 环境。

第七部分:高级技术专题#

定位:探索 AI 边界,前沿技术专题。


🗺️ 学习路线建议 (Learning Paths)#

👨‍💻 应用开发者 (Application Developer)#

目标:基于 LLM 构建应用 (Bot, RAG, Agent) 路线:P1 -> P4 (RAG/Agent) -> P6 (部署) -> P5 (HF使用)

🧪 模型算法工程师 (Model Engineer)#

目标:微调模型,优化性能 路线:P1 -> P2 (原理) -> P3 (数据/微调) -> P5 (工具栈) -> P4-Ch3 (对齐)

🧙‍♂️ 架构师/研究员 (Architect/Researcher)#

目标:探索前沿,设计系统 路线:P7 (全看) -> P3 (对齐) -> P4 (Agent) -> P5 (DeepSpeed)


🛠️ 环境准备#

# 基础环境
pip install transformers torch numpy pandas

# 进阶环境 (按需安装)
pip install vllm          # 推理加速
pip install peft bitsandbytes #微调
pip install trl           # 强化学习
pip install langgraph     # Agent开发

Created by Claude Code.

[统计组件仅在生产环境显示]