Qwen3-1.7B多轮对话实现：LangChain记忆机制集成教程
你是否希望让Qwen3-1.7B不仅能回答问题，还能“记住”之前的对话内容，实现真正自然的多轮交互？本文将手把手带你使用LangChain框架为Qwen3-1.7B模型集成记忆功能，从环境准备到完整代码实践，确保你能在本地或云端Jupyter环境中快速跑通整个流程。
我们将基于CSDN星图平台提供的Qwen3镜像环境，结合LangChain强大的会话管理能力，构建一个具备上下文理解能力的智能对话系统。无论你是AI初学者还是有一定经验的开发者，都能轻松上手。
1. Qwen3-1.7B 模型简介
Qwen3（千问3）是阿里巴巴集团于2025年4月29日开源的新一代通义千问大语言模型系列，涵盖6款密集模型和2款混合专家（MoE）架构模型，参数量从0.6B至235B不等。其中，Qwen3-1.7B作为轻量级密集模型，在保持高效推理速度的同时，具备出色的语义理解和生成能力，非常适合部署在资源有限的设备上进行本地化应用。
该模型支持多种任务场景，包括但不限于文本生成、问答系统、代码辅助、情感分析以及多轮对话。尤其在低延迟、高并发的边缘计算和端侧部署场景中表现优异。其开放的API接口设计也使得与主流AI框架（如LangChain、LlamaIndex等）的集成变得极为便捷。
由于其体积小巧且性能稳定，Qwen3-1.7B成为构建轻量级AI助手的理想选择。而通过LangChain的记忆机制，我们可以进一步提升它的交互体验，让它不再是“健忘”的单次应答机器，而是能持续跟踪对话历史的智能体。
2. 环境准备与模型调用
2.1 启动镜像并打开 Jupyter
首先，你需要在支持GPU的平台上启动预装了Qwen3模型的镜像环境。推荐使用CSDN星图镜像广场中的Qwen3镜像，该镜像已预先配置好模型服务、依赖库及运行环境。
启动成功后，进入Web界面，点击“JupyterLab”或“Jupyter Notebook”即可打开交互式开发环境。确保你的服务地址类似如下格式：
https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net注意端口号为8000，这是模型API服务暴露的端口，后续调用需正确填写。
2.2 使用 LangChain 调用 Qwen3-1.7B
LangChain 是一个强大的语言模型应用开发框架，支持多种LLM的统一调用方式。尽管名字中有“OpenAI”，但ChatOpenAI类也可以用于兼容 OpenAI API 格式的其他模型服务，Qwen3 正好符合这一标准。
以下是调用 Qwen3-1.7B 的基础代码示例：
from langchain_openai import ChatOpenAI import os chat_model = ChatOpenAI( model="Qwen3-1.7B", temperature=0.5, base_url="https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/v1", # 替换为当前Jupyter的实际地址 api_key="EMPTY", extra_body={ "enable_thinking": True, "return_reasoning": True, }, streaming=True, ) response = chat_model.invoke("你是谁？") print(response.content)说明：
base_url需要替换为你实际的访问地址，确保包含/v1路径。api_key="EMPTY"表示无需认证，适用于本地或内网部署的服务。extra_body中启用了思维链（reasoning）功能，部分版本支持返回模型思考过程。streaming=True可启用流式输出，提升用户体验。
执行上述代码后，你应该能看到模型返回类似“我是通义千问3，由阿里云研发的大规模语言模型……”的内容。
这表明模型已成功接入，接下来我们在此基础上加入记忆功能，实现真正的多轮对话。
3. 实现多轮对话的关键：LangChain 记忆机制
默认情况下，每次调用chat_model.invoke()都是独立的，模型无法感知之前的对话内容。为了让Qwen3-1.7B具备“记忆”能力，我们需要引入 LangChain 提供的对话记忆组件。
LangChain 提供了多种记忆类型，最常用的是ConversationBufferMemory，它可以将所有历史消息缓存在一个列表中，并在每次请求时自动拼接到输入提示中。
3.1 基础记忆模块初始化
我们先创建一个带有记忆功能的聊天链：
from langchain_core.prompts import ChatPromptTemplate from langchain_core.messages import HumanMessage, AIMessage from langchain_community.chat_message_histories import ChatMessageHistory from langchain_core.chat_sessions import ChatSession from langchain.memory import ConversationBufferMemory # 初始化记忆对象 memory = ConversationBufferMemory( memory_key="history", # 存储历史的键名 input_key="input", # 输入字段名 return_messages=True # 返回 Message 对象而非纯字符串 ) # 构建提示模板 prompt = ChatPromptTemplate.from_template( "你是一个乐于助人的AI助手。\n" "以下是之前的对话历史：\n" "{history}\n" "用户最新提问：{input}" )这里我们定义了一个简单的提示模板，明确告诉模型哪些是历史记录，哪些是新问题。
3.2 将记忆与模型结合
接下来，我们将记忆模块与模型调用流程连接起来：
from langchain.chains import LLMChain # 创建带记忆的链 llm_chain = LLMChain( llm=chat_model, prompt=prompt, memory=memory, verbose=True # 开启日志查看每步输入输出 ) # 第一次对话 response1 = llm_chain.invoke({"input": "你好，你是谁？"}) print("AI:", response1["text"]) # 第二次对话（模型会记得之前的内容） response2 = llm_chain.invoke({"input": "你能帮我写一篇关于春天的短文吗？"}) print("AI:", response2["text"])你会发现，第二次调用时，模型不仅知道你要它写文章，还能结合之前的自我介绍上下文做出更连贯的回答。
3.3 查看对话历史
你可以随时查看当前存储的对话历史：
print(memory.load_memory_variables({}))输出结果类似于：
{ 'history': [ HumanMessage(content='你好，你是谁？'), AIMessage(content='我是通义千问3...'), HumanMessage(content='你能帮我写一篇关于春天的短文吗？'), AIMessage(content='当然可以...') ] }这说明记忆机制已经正常工作。
4. 进阶技巧与优化建议
虽然ConversationBufferMemory简单易用，但在长期对话中可能会导致上下文过长，增加推理成本甚至超出模型最大token限制。以下是几种实用的进阶方案。
4.1 使用 ConversationSummaryMemory 减少上下文长度
对于长时间对话，可以用摘要式记忆替代完整历史：
from langchain.memory import ConversationSummaryMemory summary_memory = ConversationSummaryMemory( llm=chat_model, memory_key="summary", input_key="input", return_messages=True ) # 每次调用都会生成一段对历史的总结 summary_chain = LLMChain( llm=chat_model, prompt=prompt, memory=summary_memory )这种方式只保留“我之前和用户聊了XXX”的摘要信息，大幅降低上下文负担。
4.2 支持流式输出与前端交互
如果你计划将此系统嵌入网页或App，建议启用流式传输以提升响应体验：
for chunk in chat_model.stream("请简述量子力学的基本原理"): print(chunk.content, end="", flush=True)配合前端EventSource或WebSocket，可实现实时打字效果。
4.3 自定义记忆键与结构化管理
当构建复杂Agent系统时，可能需要多个记忆通道。可以通过自定义键名来区分不同类型的记忆：
multi_memory = ConversationBufferMemory( memory_key="conversation_history", input_key="user_input", chat_memory=ChatMessageHistory() )还可以结合数据库（如Redis）实现持久化存储，避免重启丢失记忆。
5. 常见问题与解决方案
5.1 模型无响应或超时
- 检查 base_url 是否正确：确认端口号为8000，路径包含
/v1 - 查看镜像运行状态：确保模型服务已启动，可通过终端运行
ps aux | grep vllm检查 - 网络权限问题：某些平台需开启公网访问权限
5.2 记忆未生效
- 确保
memory对象被正确传入LLMChain - 检查提示模板中是否引用了
{history}字段 - 避免重复实例化
memory，否则历史会被清空
5.3 输出乱码或格式异常
- 设置请求头
Content-Type: application/json - 若使用代理层，检查中间件是否修改了响应体
- 尝试关闭
streaming模式进行调试
6. 总结
通过本文的实践，我们完成了从零开始搭建 Qwen3-1.7B 多轮对话系统的全过程。核心步骤包括：
- 在 CSDN 星图平台启动 Qwen3 镜像并获取 API 地址；
- 使用 LangChain 的
ChatOpenAI接口调用模型； - 集成
ConversationBufferMemory实现基本对话记忆； - 通过提示工程引导模型利用历史信息；
- 探索了摘要记忆、流式输出等进阶功能。
这套方案不仅适用于 Qwen3-1.7B，也可迁移至其他参数量的千问模型或其他兼容 OpenAI API 协议的本地模型。未来你可以在此基础上扩展更多功能，比如结合向量数据库实现知识增强问答（RAG），或将对话机器人接入微信、钉钉等即时通讯工具。
现在就动手试试吧，让你的AI真正“记住”每一次交流！
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。
