LLM 相关知识点

本主题是知识图谱的底层原理层，梳理模型架构、训练对齐、推理部署、Prompt 可靠性、评测选型与多模态能力。

子模块

1. 基础原理（第 1–5 章）
2. 训练与对齐（第 6–11 章）
3. 推理与部署（第 12–15、19–20 章）
4. Prompt 与可靠性（第 16–18 章）
5. 评测与选型（第 21–22 章）
6. 多模态（第 23 章）

模块关系

flowchart TB
    F[基础原理] --> T[训练与对齐]
    F --> I[推理与部署]
    T --> P[Prompt 与可靠性]
    I --> P
    T --> E[评测与选型]
    I --> E
    F --> M[多模态]
    T --> M
    M --> E

阅读建议

• 应用开发：基础原理 → Prompt 与可靠性 → 评测与选型；
• 训练研究：基础原理 → 训练与对齐 → 评测与选型；
• 推理部署：基础原理 → 推理与部署；
• 多模态应用：基础原理 → 多模态 → 评测与选型。

常见问题

学习 LLM 是否必须先掌握深度学习数学？

理解矩阵运算、概率和梯度有帮助，但不必先学完全部数学才能开始。可以先掌握 Tokenizer、Attention、训练目标和推理过程，再结合公式补齐每个机制背后的计算。

微调、RAG 和 Prompt 工程应该先学哪个？

Prompt 工程适合调整单次调用的指令和输出形式，RAG 适合补充外部知识，微调适合改变稳定的行为模式。大多数应用会先做好 Prompt 与评测，再判断问题属于知识缺失还是行为不匹配。

返回文档主题索引。