企业官网建设流程全解析

系列：《LLM 技术全景：从 Token 到部署》
定位：工程实践篇 · 第 4 篇（总第 36 篇）
上承：第 35 篇《vLLM 推理框架深度解析》（框架层调度与显存管理）
下启：第 37 篇《大模型服务化架构：API 设计、缓存与成本控制》

摘要

• 核心问题：vLLM 已经把调度和显存管理做到极致，但 GPU 上的 kernel 执行仍按"通用写法"跑——还有一层硬件级压榨空间没挖。
• TensorRT-LLM 的答案：把模型当作"待编译的程序"，在部署前离线编译成 NVIDIA 定制推理引擎：Kernel 融合、FP8/INT8 量化、注意力专项优化、飞行中批处理（In-flight Batching）。
• 阅读收获：
  1. 看懂"编译式推理"与 vLLM"解释式推理"的本质差异与取舍；
  2. 掌握 Kernel 融合、FP8 量化两大核心优化到底优化了什么；
  3. 能照着实战流程把 TensorRT-LLM 引擎构建出来并用 Triton 服务化；
  4. 拿到"vLLM vs TensorRT-LLM"选型决策表，知道什么