企业官网建设流程全解析

目录

一、实测现象 & 核心代码展示

1. 方案一：Spring AI 实现（浏览器无明显流式）

二、核心原理：同为 text/html，流式效果为何差异巨大？

1. LangChain4j：原生细粒度实时推送

2. Spring AI：框架批量聚合推送

3. 关键补充：delayElements 作用

三、Spring AI 与 LangChain4j 全方位核心对比

四、两种响应类型对比：text/html VS text/event-stream

五、不同测试工具表现差异

1. 浏览器地址栏

2. Apifox

六、全文总结

在基于Spring Boot + Spring WebFlux对接大模型实现逐字流式对话的开发过程中，我遇到了一个非常典型且容易困惑的问题： 两套接口均使用text/html;charset=UTF-8作为响应类型，且都在浏览器地址栏进行测试，但流式表现截然不同：

• 基于Spring AI ChatClient实现：内容一次性全部输出，看不到逐字流式效果；
• 基于LangChain4j 原生回调实现：逐段输出，流式观感十分明显。

除此之外，开发中还陆续碰到SSE 接口中文乱码、浏览器与 Apifox 测试表现不一致、添加延迟后流式效果恢复等问题。

本文结合真实业务代码、框架底层推送机制、HTTP 分块传输、客户端解析规则，新增 Spring AI 与 LangChain4j 核心对比，全方位拆解所有现象背后的原理，同时给出不同场景下的代码选型与生产最佳实践。

一、实测现象 & 核心代码展示

两套接口响应类型完全一致、均基于 WebFluxFlux实现流式，仅框架与编码方式不同。

1. 方案一：Spring AI 实现（浏览器无明显流式）

package org.example.springaixushu.controller; import jakarta.servlet.http.HttpServletResponse; import org.springframework.ai.chat.client.ChatClient; import org.springframework.ai.chat.model.ChatResponse; import org.springframework.ai.converter.BeanOutputConverter; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.http.MediaType; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import reactor.core.publisher.Flux; import java.time.Duration; import java.util.stream.Collectors; @RestController @RequestMapping("/ai") public class AiController { @Autowired private ChatClient chatClient; @GetMapping(value = "/stream", produces = "text/html;charset=UTF-8") public Flux<String> streamChatResponse(@RequestParam String question) { return chatClient.prompt(question) .stream() .content(); // .delayElements(Duration.ofMillis(10)); } }

2. 方案二：LangChain4j 实现（浏览器流式效果明显）

package org.example.langchain4j_springboot.controller; import dev.langchain4j.community.model.dashscope.QwenChatModel; import dev.langchain4j.community.model.dashscope.QwenStreamingChatModel; import dev.langchain4j.model.chat.response.ChatResponse; import dev.langchain4j.model.chat.response.StreamingChatResponseHandler; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.web.server.ErrorPageRegistrar; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import reactor.core.publisher.Flux; @RestController @RequestMapping("/ai") public class ChatControler { @Autowired QwenChatModel qwenChatModel; @Autowired QwenStreamingChatModel streamingChatModel; @RequestMapping(value = "/stream_chat",produces ="text/html;charset=UTF-8") public Flux<String> test3(@RequestParam(defaultValue="你是谁") String message) { return Flux.create(sink -> { streamingChatModel.chat(message, new StreamingChatResponseHandler() { @Override public void onPartialResponse(String partialResponse) { sink.next(partialResponse); // 逐次返回部分响应 } @Override public void onCompleteResponse(ChatResponse completeResponse) { sink.complete(); // 完成整个响应流 } @Override public void onError(Throwable error) { sink.error(error); // 异常处理 } }); }); } }

二、核心原理：同为 text/html，流式效果为何差异巨大？

根本原因：框架的推送粒度、缓冲策略、数据下发速度完全不同，浏览器text/html增量渲染依赖分段 + 间隔推送。

1. LangChain4j：原生细粒度实时推送

• 纯底层大模型 SDK，无缓冲、无聚合；
• 大模型每生成一个字 / 词，立刻触发onPartialResponse回调；
• 数据实时推送给浏览器，搭配大模型天然生成延迟；
• 浏览器增量渲染生效 →肉眼可见逐字流式。

2. Spring AI：框架批量聚合推送

• Spring 官方一体化框架，为性能做了数据缓冲聚合；
• 不会逐字下发，而是攒成一段文本后批量高速推送；
• HTTP 协议自动合并分块，浏览器只收到一个完整数据块；
• 增量渲染失效 →内容一次性输出。

3. 关键补充：delayElements 作用

仅测试用，强制拆分数据间隔，让 Spring AI 模拟出流式效果，生产环境必须删除。

三、Spring AI 与 LangChain4j 全方位核心对比

这是本文新增核心章节，从定位、设计、流式实现、生态等维度，彻底厘清两个框架的本质区别：

表格

四、两种响应类型对比：text/html VS text/event-stream

这是乱码、工具适配问题的核心根源：

表格

五、不同测试工具表现差异

1. 浏览器地址栏

• text/html：LangChain4j 有流式，Spring AI 无流式，不乱码；
• text/event-stream：解析 SSE 协议失败，必乱码，不推荐使用。

2. Apifox

• text/html：默认无流式，需手动开 Raw 视图；
• text/event-stream：最优选择，完美支持 SSE 流式，无乱码。

六、全文总结

1. 流式差异根源LangChain4j 原生逐字实时推送，Spring AI 批量聚合高速推送，是浏览器流式效果天差地别的核心原因。

2. 两大框架核心区别Spring AI 极简、高性能、绑定 Spring 生态，适合标准化开发； LangChain4j 灵活、底层、无侵入，适合自定义流式场景。

3. 响应类型选型浏览器直访用text/html，生产前后端分离用text/event-stream（SSE）。

4. 测试工具规范浏览器测text/html，Apifox 测 SSE，拒绝用地址栏测试标准流式接口。

5. 关键技巧delayElements仅用于测试可视化，生产环境必须删除。