企业官网建设流程全解析

文章目录

• D36-LoRA 原理 + 第一个微调项目：从零微调一个客服话术风格模型
• • 一、为什么你需要微调——从「用模型」到「改模型」的 3 个动机
  • • 1.1 通用模型不懂你的业务
    • 1.2 数据安全 + 成本控制
    • 1.3 微调 vs Prompt vs RAG：什么时候用什么
  • 二、LoRA 原理——为什么 0.1% 的参数能达到 99% 的效果
  • • 2.1 全参微调的痛点
    • 2.2 LoRA 的核心思想：低秩分解
    • 2.3 ASCII 图解：低秩矩阵长啥样
    • 2.3 几个常见疑问
    • 2.4 QLoRA：连"激活"都量化
  • 三、5 个微调框架对比——工程师该选谁
  • 四、第一个微调项目实战：客服话术风格迁移
  • • 4.1 项目目标
    • 4.2 环境准备
    • 4.3 数据准备——10 条就够学到东西
    • 4.4 数据生成脚本（可运行）
    • 4.5 LoRA 微调主脚本（可运行）
    • 4.6 评估对比脚本
  • 五、常见踩坑与解决
  • • 5.1 OOM（最常见的报错）
    • 5.2 Loss 不下降
    • 5.3 灾难性遗忘
    • 5.4 评估指标
  • 六、从 Demo 到生产——3 步把微调模型推上线
  • • 6.1 第一步：合并 LoRA 权重
    • 6.2 第二步：用 vllm 部署（生产级推理）
    • 6.3 第三步：监控 + 持续迭代
  • 七、Key Takeaways
  • 九、思考题
  • 十、下篇预告