Spring AI集成DeepSeek,实现流式输出

前面一篇文章我们实现了《Spring AI集成DeepSeek:三步搞定Java智能应用》,大模型的响应速度是很慢的,为了提升用户体验,我们通常会使用流式输出一点点将结果输出给用户。先看下效果:

在 SpringBoot 中实现流式输出可以使用 Sse(Server-SentEvents,服务器发送事件)技术来实现,它是一种服务器推送技术,适合单向实时数据流,我们使用 SpringMVC(基于Servlet)中的SseEmitter对象来实现流式输出。

一、后端代码

/*** 流式调用*/
@GetMapping("/generateStream")
public SseEmitter streamChat(@RequestParam String message) {// 创建 SSE 发射器,设置超时时间(例如 1 分钟)SseEmitter emitter = new SseEmitter(60_000L);// 创建 Prompt 对象Prompt prompt = new Prompt(new UserMessage(message));// 订阅流式响应// 完成处理// 异常处理openAiChatModel.stream(prompt).subscribe(response -> {try {String content = response.getResult().getOutput().getContent();System.out.print(content);// 发送 SSE 事件emitter.send(SseEmitter.event().data(content).id(String.valueOf(System.currentTimeMillis())).build());} catch (Exception e) {emitter.completeWithError(e);}},emitter::completeWithError,emitter::complete);// 处理客户端断开连接emitter.onCompletion(() -> {// 可在此处释放资源System.out.println("SSE connection completed");});emitter.onTimeout(() -> {emitter.complete();System.out.println("SSE connection timed out");});return emitter;
}

二、前端代码

前端接受数据流也比较简单,不需要在使用传统 Ajax 技术了,只需要创建一个 EventSource 对象,监听后端 SSE 接口,然后将接收到的数据流展示出来即可,如下代码所示:

$('#send-button').click(function () {const message = $('#chat-input').val();// 立即清空输入框$('#chat-input').val('');// 用户消息(保持原有样式)var userMessage = $('<div class="message user"></div>');userMessage.append('<img class="avatar" src="/images/user.png" alt="用户头像">');userMessage.append(`<div class="content"><span class="nickname"></span><div class="text">${message}</div></div>`);// 机器人消息容器(先创建空容器)var botMessage = $('<div class="message bot"></div>');botMessage.append('<img class="avatar" src="/images/robot.png" alt="助手头像">');botMessage.append('<div class="content"><span class="nickname">助手</span><div class="text"></div></div>');// 按顺序添加消息$('#chat-messages').append(userMessage, botMessage);// 流式处理const eventSource = new EventSource(`/ai/generateStream?message=` + message);eventSource.onmessage = function (event) {botMessage.find('.text').append(event.data);  // 追加到机器人消息内容区};// 错误处理eventSource.onerror = function (err) {$('#chat-input').val(''); // 确保网络异常时也清空console.error("连接错误:", err);eventSource.close();};
});

完整代码可查看:

Gitee:https://gitee.com/tyronchen/spring-boot-learn/tree/master/Spring-AI

GitHub:https://github.com/tyronczt/spring-boot-learning/tree/master/Spring-AI

三、运行项目

运行项目测试结果:

  • 启动 Spring Boot 项目。
  • 在浏览器中访问地址 http://localhost:8888/index.html,即可看到流式输出的内容逐渐显示在页面上。

小天有话说

此文参考居多,html页面是使用idea中的通义插件所写,Demo之作,样式相对粗糙,如页面的markdown样式显示支持不完善,显示屏幕较小等。样式并非重点,后续将继续学习Spring Ai相关技术;

题外话

AI技术的应用早已突破简单的API调用阶段,唯有深耕深度学习领域,方能在技术迭代的浪潮中保持竞争力。这一规律不仅适用于个人发展,更是企业生存的必然选择。DeepSeek的崛起犹如一剂强心针,彻底激活了开源大模型领域的竞争格局——据不完全统计,已有超过200家头部企业完成DeepSeek技术接口的集成部署,涵盖华为、腾讯、百度、阿里、京东、字节等科技巨头,以及微软、英伟达、AWS等国际厂商。

对于开发者而言,**Spring AI Alibaba **作为阿里云推出的AI应用开发框架,提供了从模型部署到智能体开发的完整解决方案。该框架支持40+插件集成,可实现RAG增强生成与工具调用等核心功能,显著降低AI应用开发门槛。接下来也会更新一些学习文章:如DeepSeek接入Spring Cloud Alibaba AI完成智能化实战等,尽情期待!

参考

磊哥聊编程:https://segmentfault.com/a/1190000046109605

Spring AI Alibaba:https://java2ai.com/

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/69951.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

HCIA项目实践---OSPF的知识和原理总结

9.5 OSPF 9.5.1 从哪些角度评判一个动态路由协议的好坏&#xff1f; &#xff08;1&#xff09;选路佳&#xff08;是否会出环&#xff09; OSPF 协议采用链路状态算法&#xff0c;通过收集网络拓扑信息来计算最短路径&#xff0c;从根本上避免了路由环路的产生。 &#xff08…

独立C++ asio库介绍

目录 概述环境准备主要特性基本组件和使用流程编译和使用应用场景概述 独立的 asio 库是一个跨平台的 C++ 库,用于网络和底层 I/O 编程。在 C++20 之前,asio 通常作为 Boost 库的一部分存在(即 Boost.Asio)。而现在,asio 已经可以独立使用,无需依赖 Boost 库,它提供了统…

EtherNetIP转ModbusTCP网关,给风电注入“超级赛亚人”能量

EtherNetIP转ModbusTCP网关&#xff0c;给风电注入“超级赛亚人”能量 在工业通信领域&#xff0c;常常需要将不同网络协议的设备和系统连接起来&#xff0c;以实现更高效的数据交互和系统集成。比如&#xff0c;把EtherNet/IP设备及其网络连接到ModbusTCP网络系统&#xff0c…

蓝桥杯备赛 Day14 素数环

信息学奥赛一本通&#xff08;C版&#xff09;在线评测系统 【题目描述】 输入正整数nn&#xff0c;把整数11,22,…,nn 组成一个环&#xff0c;使得相邻两个整数之和均为素数。 【输入】 输入正整数nn。 【输出】 输出任意一个满足条件的环。 【输入样例】 6 【输出样例】 …

React VS Vue

React 和 Vue 是目前最流行的两个前端框架&#xff0c;它们在设计理念、生态系统和开发体验上各有特点。以下是对 React 和 Vue 的全方位对比&#xff1a; 1. 核心设计理念 React 库而非框架&#xff1a;React 是一个用于构建 UI 的库&#xff0c;专注于视图层&#xff0c;其…

【ISO 14229-1:2023 UDS诊断全量测试用例清单系列:第十七节】

ISO 14229-1:2023 UDS诊断服务测试用例全解析&#xff08;InputOutputControl_0x2F服务&#xff09; 作者&#xff1a;车端域控测试工程师 更新日期&#xff1a;2025年02月14日 关键词&#xff1a;UDS协议、0x2F服务、输入输出控制、ISO 14229-1:2023、ECU测试 一、服务功能概…

关于防火墙运维面试题2

三、防火墙配置与管理类 21. 如何根据企业的网络安全策略&#xff0c;制定一套全面的防火墙规则集&#xff1f;需要考虑哪些关键因素&#xff1f; 以下是根据企业网络安全策略制定全面防火墙规则集的指导&#xff0c;以及需要考虑的关键因素&#xff1a; 一、关键因素 &…

【Linux】详谈 进程控制

目录 一、进程是什么 二、task_struct 三、查看进程 四、创建进程 4.1 fork函数的认识 4.2 2. fork函数的返回值 五、进程终止 5.1. 进程退出的场景 5.2. 进程常见的退出方法 5.2.1 从main返回 5.2.1.1 错误码 5.2.2 exit函数 5.2.3 _exit函数 5.2.4 缓冲区问题补…

Visonpro 检测是否有缺齿

一、效果展示 二、上面是原展开工具CogPolarUnwrapTool&#xff1b; 第二种方法&#xff1a; 用Blob 和 CogCopyRegionTool 三、 用预处理工具 加减常数&#xff0c;让图片变得更亮点 四、圆展开工具 五、模板匹配 六、代码分解 1.创建集合和文子显示工具 CogGraphicCollec…

RabbitMQ介绍以及基本使用

文章目录 一、什么是消息队列&#xff1f; 二、消息队列的作用&#xff08;优点&#xff09; 1、解耦 2、流量削峰 3、异步 4、顺序性 三、RabbitMQ基本结构 四、RabbitMQ队列模式 1、简单队列模式 2、工作队列模式 3、发布/订阅模式 4、路由模式 5、主题模式 6、…

服务器租用:虚拟化技术都包含哪些内容?

服务器作为常见的网络设备&#xff0c;有着物理服务器、云服务器和虚拟服务器等多种类型&#xff0c;其中虚拟服务器主要是依靠虚拟化技术将物理服务器划分成多个虚拟机&#xff0c;以此来充分利用服务器资源&#xff0c;那虚拟化技术都包含了哪些内容呢&#xff1f; 硬件虚拟化…

基于JAVA的幼儿园管理系统的设计与实现源码(springboot+vue+mysql)

项目简介 幼儿园管理系统实现了以下功能&#xff1a; 基于JAVA的幼儿园管理系统的设计与实现的主要使用者管理员可以管理系统基本信息&#xff1b;管理轮播图、系统简介、教师管理、课程管理、幼儿活动管理、餐饮管理、留言管理等功能&#xff1b;前台用户注册登录&#xff0…

sql难点

一、 假设你有一个查询&#xff0c;需要根据 id 是否为 null 来动态生成 SQL 条件&#xff1a; xml复制 <select id"getResources" resultType"Resource">SELECT * FROM resources<where><if test"id ! null">and id <!…

《Operating System Concepts》阅读笔记:p13-p16

《Operating System Concepts》学习第 4 天&#xff0c;p13-p16 总结&#xff0c;总计 4 页。 一、技术总结 1.storage 指令只能在 memory 上执行&#xff0c;所以要执行程序&#xff0c;那么就要加载到内存上。 2.primary storage primary storage 包含下面这些分类&…

最新国内 ChatGPT Plus/Pro 获取教程

最后更新版本&#xff1a;20250202 教程介绍&#xff1a; 本文将详细介绍如何快速获取一张虚拟信用卡&#xff0c;并通过该卡来获取ChatGPT Plus和ChatGPT Pro。 # 教程全程约15分钟开通ChatGPT Plus会员帐号前准备工作 一个尚未升级的ChatGPT帐号&#xff01;一张虚拟信用卡…

Python中使用Minio实现图像或视频文件的存储

目录 一、Minio的基本介绍1.Minio是什么2.Minio的优势 二、使用步骤1.启动Minio2.创建桶3.在Python中使用Minio3.1安装并导入minio包3.2创建mino_utils工具类 三、操作演示1.引入minio_utils工具类2.上传视频文件3.获取视频文件 总结 一、Minio的基本介绍 1.Minio是什么 Mini…

[JVM篇]虚拟机性能监控、故障处理工具

虚拟机性能监控、故障处理工具 基础故障处理工具 jps&#xff08;JVM Peocess Status Tool - 虚拟机进程状况工具&#xff09; jstat(JVM Statistics Monitoring Too - 虚拟机统计信息监视工具) jinfo( Configuration info for Java - Java配置信息工具) jmap(Memory Map for…

【数据结构】(9) 优先级队列(堆)

一、优先级队列 优先级队列不同于队列&#xff0c;队列是先进先出&#xff0c;优先级队列是优先级最高的先出。一般有两种操作&#xff1a;返回最高优先级对象&#xff0c;添加一个新对象。 二、堆 2.1、什么是堆 堆也是一种数据结构&#xff0c;是一棵完全二叉树&#xff0c…

快速设置 Docker 网络代理配置

Docker Client - 代理访问远程的 Docker Daemon 在 Client 端设置代理其实就是设置 Linux 系统的代理&#xff0c;从而让系统的命令行可以通过代理连接到外部的网络。一般只需要配置 HTTP_PROXY 与 HTTPS_PROXY 这两个即可。 临时生效&#xff1a; 在命令行中执行下面的命令&…

Vript-Hard——一个基于高分辨率和详细字幕的视频理解算法

一、概述 多模态学习的最新进展促进了对视频理解和生成模型的研究。随之而来的是&#xff0c;对高分辨率视频和详细说明所建立的高质量数据集的需求激增。然而&#xff0c;由于时间因素的影响&#xff0c;视频与文本的配对不像图像那样容易。准备视频和文本配对是一项困难得多…