企业官网建设流程全解析

大模型应用场景介绍

大模型应用技术特点：门槛低，天花板高

RAG开发

背景

大模型的知识冻结：随着LLM规模扩大，训练成本与周期相应增加，模型无法实时学习到最新的信息或动态变化。导致LLM难以应对诸如”请推荐现在的热门影片“等时间敏感的问题

大模型幻觉：涉及到大模型从未在训练过程中学习过的信息时，大模型无法给出准确的答复，转而开始臆想和编造答案

举例

LLM在考试的时候面对陌生的领域，答复能力有限，然后就准备放飞自我了，而此时RAG给了一些提示和思路，让LLM懂了开始往这个提示的方向做，最终考试的正确率从60%到了90%

何为RAG?

Retrieval-Augmented Generation（检索增强生成）

Agent开发

充分利用LLM的推理决策能力，通过增加规划、记忆何工具调用的能力，构造一个能够独立思考、逐步完成给定目标的Agent（智能体）

类比举例：
OpenAI的元老翁丽莲(Lilian Weng)于2023年6月在个人博客（https://lilianweng.github.io/posts/2023
-06-23-agent/）首次提出了现代AI Agent架构。

一个数学公式来表示：

Agent = LLM + Planning + Tools + Memory + Action

比如，打车到西藏玩。
大脑中枢：规划行程的你
规划：步骤1：规划打车路线，步骤2：订饭店、酒店，。。。
调用工具：调用MCP或FunctionCalling等API，滴滴打车、携程、美团订酒店饭店
记忆能力：沟通时，要知道上下文。比如订酒店得知道是西藏路上的酒店，不能聊着聊着忘了最初
的目的。
能够执行上述操作。说走就走，不能纸上谈兵

智能体核心要素被细化为以下模块

1、大模型（LLM）作为“大脑”：提供推理、规划和知识理解能力，是AI Agent的决策中枢。

大脑主要由一个大型语言模型 LLM 组成，承担着信息处理和决策等功能， 并可以呈现推理和规划
的过程，能很好地应对未知任务。

2、规划决策（Planning）：通过任务分解、反思与自省框架实现复杂任务处理。例如，利用思维链
（Chain of Thought）将目标拆解为子任务，并通过反馈优化策略。

3、工具使用（Tool Use）：调用外部工具（如API、数据库）扩展能力边界

4、记忆（Memory）

智能体像人类一样，能留存学到的知识以及交互习惯等，这样的机制能让智能体在处理重复工作时
调用以前的经验，从而避免用户进行大量重复交互。

短期记忆：存储单次对话周期的上下文信息，属于临时信息存储机制。受限于模型的上下文窗口长度。

ChatGPT：支持约8k token的上下文
GPT4：支持约32k token的上下文
最新的很多大模型：OpenAI GPT‐5.5 / GPT‐5.4 Pro支持100 万 Token（1M）、Anthropic
Claude Opus 4.7支持200 万 Token、DeepSeek‐V4‐Pro支持100 万 Token、甚至有模型支
持1000万 token的上下文 （相当于2000万字文本或20小时视频）

长期记忆
可以横跨多个会话或时间周期，可存储并调用核心知识，非即时任务。

比如，关于用户的偏好，过去执行过的指令等
长期记忆，可以通过模型参数微调（固化知识），知识图谱（结构化语义网络）或向量数据库（相似性检索）方式实现

5、行动：
实际执行决策的模块，涵盖软件接口操作（如自动订票）和物理交互（如机器人执行搬运）。比如：检索，推理，编程等。

智能体会形成完整的计划流程。例如先读取以前工作的经验和记忆，之后规划子目标并使用相应工具去处理问题，最后输出给用户并完成反思。