Qwen3-1.7B企业应用案例：知识库问答系统搭建教程

在当前企业智能化转型的浪潮中，构建一个高效、准确的知识库问答系统已成为提升内部协作效率和客户服务体验的关键手段。Qwen3-1.7B作为通义千问系列中的轻量级主力模型，在保持高性能推理能力的同时，具备部署成本低、响应速度快、易于集成等优势，非常适合用于中小型企业级应用。本文将手把手带你使用CSDN星图平台提供的镜像环境，基于LangChain框架调用Qwen3-1.7B模型，完成一个可落地的知识库问答系统的初步搭建。

1. 认识Qwen3-1.7B：轻量高效的企业级语言模型

1.1 Qwen3系列模型概览

Qwen3（千问3）是阿里巴巴集团于2025年4月29日开源的新一代通义千问大语言模型系列，涵盖6款密集模型和2款混合专家（MoE）架构模型，参数量从0.6B至235B不等。这一系列模型在训练数据规模、推理效率、多语言支持以及逻辑推理能力方面均有显著提升。

其中，Qwen3-1.7B是该系列中面向边缘计算与企业本地化部署场景优化的中等规模模型。它在保持较小体积的前提下，通过结构优化和知识蒸馏技术，实现了接近更大模型的语言理解与生成能力，特别适合对延迟敏感、资源受限但又需要较强语义处理能力的应用场景。

相比动辄数十GB显存需求的大模型，Qwen3-1.7B可以在单张消费级GPU上流畅运行，极大降低了企业的部署门槛。同时，其开放的API接口设计也便于与现有IT系统无缝对接。

1.2 为什么选择Qwen3-1.7B做知识库问答？

企业在构建知识管理系统时，常面临以下挑战：

内部文档分散，员工查找信息耗时；
客服人员重复回答相同问题，人力成本高；
传统关键词检索无法理解用户意图，结果不准。

而引入像Qwen3-1.7B这样的语言模型后，可以实现：

自然语言提问：员工或客户可用日常口语提问，无需学习复杂搜索语法；
语义精准匹配：模型能理解问题背后的真正意图，而非简单字面匹配；
自动归纳答案：从多个文档片段中提取关键信息并组织成连贯回复；
快速部署上线：模型体积小，可在私有环境中一键启动，保障数据安全。

因此，Qwen3-1.7B成为中小企业打造智能知识中枢的理想选择。

2. 环境准备与模型调用基础

2.1 启动镜像并进入Jupyter环境

要开始使用Qwen3-1.7B，首先你需要访问CSDN星图平台，并选择预置了Qwen3系列模型的AI镜像进行部署。这类镜像通常已配置好CUDA驱动、PyTorch环境及常用LLM开发库（如LangChain、Transformers等），省去繁琐的依赖安装过程。

部署成功后，平台会提供一个Web访问地址。点击“启动服务”后，打开Jupyter Notebook界面。你将看到类似如下目录结构：

notebooks/ ├── examples/ └── work/

建议在work/目录下新建项目文件夹，例如qwen3-kbqa-demo，用于存放后续代码和数据。

2.2 使用LangChain调用Qwen3-1.7B模型

LangChain是一个强大的大模型应用开发框架，提供了统一的接口来连接各种语言模型和服务。即使底层模型不同，只需更换配置即可复用大部分业务逻辑代码。

以下是调用Qwen3-1.7B的核心代码示例：

from langchain_openai import ChatOpenAI import os chat_model = ChatOpenAI( model="Qwen3-1.7B", temperature=0.5, base_url="https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/v1", # 替换为你的实际Jupyter服务地址，注意端口为8000 api_key="EMPTY", extra_body={ "enable_thinking": True, "return_reasoning": True, }, streaming=True, ) # 发起一次简单对话测试 response = chat_model.invoke("你是谁？") print(response.content)

参数说明：

参数	说明
`model`	指定调用的模型名称，此处为`"Qwen3-1.7B"`
`temperature`	控制输出随机性，值越低回答越确定，推荐设置为`0.5`平衡创造性和稳定性
`base_url`	实际的服务地址，请根据平台分配的URL替换，确保以`/v1`结尾
`api_key`	当前环境无需认证，设为`"EMPTY"`即可
`extra_body`	扩展参数，启用思维链（CoT）模式，让模型展示推理过程
`streaming`	开启流式输出，用户可实时看到逐字生成的效果

执行上述代码后，你应该能看到模型返回类似“我是通义千问3系列中的1.7B版本……”的回答内容，表明连接成功。

提示：如果你遇到连接超时，请检查base_url是否正确，尤其是IP地址和端口号是否匹配当前实例。

3. 构建知识库问答系统核心流程

3.1 系统整体架构设计

一个典型的知识库问答系统包含以下几个模块：

知识源接入：支持PDF、Word、TXT、网页等多种格式文档导入；
文本向量化处理：使用嵌入模型（Embedding Model）将文本转化为向量；
向量数据库存储：将向量存入FAISS、Chroma或Milvus等向量库；
用户提问解析：接收自然语言问题，转换为查询向量；
相似度检索：在向量库中查找最相关的文档片段；
答案生成：将相关片段作为上下文输入给Qwen3-1.7B，生成最终回答。

本节我们将重点实现第4~6步，假设已有清洗好的文本数据。

3.2 文档加载与切片处理

我们先模拟加载一份企业常见文档——《员工手册》。你可以将其保存为employee_handbook.txt文件。

from langchain_community.document_loaders import TextLoader loader = TextLoader("employee_handbook.txt", encoding="utf-8") documents = loader.load() # 使用递归字符分割器切分长文本 from langchain.text_splitter import RecursiveCharacterTextSplitter text_splitter = RecursiveCharacterTextSplitter( chunk_size=500, # 每段最大长度 chunk_overlap=50, # 重叠部分避免断句 ) docs = text_splitter.split_documents(documents)

这样就得到了一组结构化的文本块，便于后续索引和检索。

3.3 向量化与向量数据库构建

接下来我们需要将这些文本块转化为向量表示。由于Qwen3本身不提供嵌入模型，我们可以选用轻量级开源模型如BAAI/bge-small-zh-v1.5。

from langchain_community.embeddings import HuggingFaceEmbeddings embeddings_model = HuggingFaceEmbeddings(model_name="BAAI/bge-small-zh-v1.5") # 将所有文本块转为向量并存入本地FAISS数据库 from langchain_community.vectorstores import FAISS vectorstore = FAISS.from_documents(docs, embeddings_model) vectorstore.save_local("kb_index") # 保存索引供后续加载

这一步完成后，知识库的“记忆”就已经建立好了。

3.4 实现问答逻辑：检索+生成

现在我们结合检索与生成两个阶段，完成完整的问答流程。

# 加载已构建的向量库 loaded_vectorstore = FAISS.load_local("kb_index", embeddings_model, allow_dangerous_deserialization=True) # 创建检索器 retriever = loaded_vectorstore.as_retriever(search_kwargs={"k": 3}) # 返回前3个最相关片段 # 定义提示词模板 from langchain.prompts import PromptTemplate template = """你是一个企业知识助手，请根据以下上下文信息回答问题。 如果信息不足以回答，请说明“暂无相关信息”。 上下文： {context} 问题： {question} 回答：""" prompt = PromptTemplate.from_template(template) # 组合链式调用 from langchain.schema.runnable import RunnablePassthrough from langchain.schema.output_parser import StrOutputParser def format_docs(docs): return "\n\n".join(d.page_content for d in docs) rag_chain = ( {"context": retriever | format_docs, "question": RunnablePassthrough()} | prompt | chat_model | StrOutputParser() ) # 测试提问 result = rag_chain.invoke("年假是如何规定的？") print(result)

当你输入类似“年假是如何规定的？”的问题时，系统会先从知识库中检索出相关段落，再交由Qwen3-1.7B整合成通顺易懂的答案。

4. 提升系统实用性的小技巧

4.1 支持多种文件格式输入

除了纯文本，企业文档更多是以PDF、Word等形式存在。LangChain提供了丰富的加载器支持：

# PDF文档 from langchain_community.document_loaders import PyPDFLoader loader = PyPDFLoader("manual.pdf") # Word文档 from langchain_community.document_loaders import Docx2txtLoader loader = Docx2txtLoader("policy.docx") # Excel表格 from langchain_community.document_loaders import UnstructuredExcelLoader loader = UnstructuredExcelLoader("data.xlsx")

只需替换加载器类型，其余处理流程完全一致。

4.2 增加缓存机制减少重复计算

对于高频问题（如“如何报销？”），可添加内存缓存避免反复调用模型：

from functools import lru_cache @lru_cache(maxsize=128) def cached_query(question): return rag_chain.invoke(question)

4.3 添加来源标注增强可信度

为了让用户知道答案来自哪份文档，可以在输出中附带出处：

def retrieve_with_source(question): docs = retriever.invoke(question) answer = rag_chain.invoke(question) sources = [f"来源：{doc.metadata.get('source', '未知')} (页码: {doc.metadata.get('page', 'N/A')})" for doc in docs] return { "answer": answer, "sources": "\n".join(sources) } result = retrieve_with_source("加班费怎么算？") print(f"回答：{result['answer']}\n\n参考来源：\n{result['sources']}")

这不仅提升了透明度，也有助于后期维护和更新知识库。