Qwen1.5-0.5B-Chat应用开发：情感分析功能集成教程

1. 引言

1.1 轻量级模型在实际业务中的价值

随着大模型技术的快速发展，越来越多企业开始探索将智能对话能力嵌入到客服系统、用户反馈处理和社交舆情监控等场景中。然而，全参数大模型通常对硬件资源要求较高，难以在边缘设备或低成本服务器上部署。Qwen1.5-0.5B-Chat作为通义千问系列中参数量最小但性能高效的对话模型之一，凭借其低内存占用、CPU友好性以及良好的语义理解能力，成为轻量化AI服务的理想选择。

本项目基于ModelScope（魔塔社区）生态构建，部署了阿里开源的Qwen1.5-0.5B-Chat模型，并在此基础上扩展实现了一个实用的情感分析功能模块。通过该教程，开发者可以快速掌握如何在一个轻量级对话系统中集成自然语言处理任务，提升系统的智能化水平。

1.2 教程目标与适用人群

本文是一篇实践导向的技术指南，旨在帮助具备基础Python和Web开发经验的工程师：

快速搭建基于 Qwen1.5-0.5B-Chat 的本地对话服务；
在已有对话系统中集成情感分析功能；
理解模型调用、文本处理与前后端交互的关键流程。

完成本教程后，读者将获得一个可运行的、支持情感识别的智能对话原型系统。

2. 环境准备与模型部署

2.1 创建独立运行环境

为避免依赖冲突，建议使用 Conda 创建专用虚拟环境：

conda create -n qwen_env python=3.9 conda activate qwen_env

2.2 安装核心依赖库

安装必要的Python包，包括 ModelScope SDK、Transformers 和 Flask：

pip install modelscope torch torchvision transformers flask flask-cors

注意：若无法访问PyPI源，可配置国内镜像加速下载。

2.3 下载并加载 Qwen1.5-0.5B-Chat 模型

利用 ModelScope 提供的 SDK，可以直接从官方仓库拉取模型权重：

from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks # 初始化对话管道 inference_pipeline = pipeline( task=Tasks.text_generation, model='qwen/Qwen1.5-0.5B-Chat' )

此方式确保模型来源可靠，并自动处理 tokenizer 和 config 的匹配问题。

3. 构建基础对话服务

3.1 使用 Flask 搭建 Web 接口

创建app.py文件，实现基本的HTTP接口用于接收用户输入并返回模型响应：

from flask import Flask, request, jsonify import threading app = Flask(__name__) # 全局锁防止并发调用导致异常 model_lock = threading.Lock() @app.route("/chat", methods=["POST"]) def chat(): data = request.json user_input = data.get("query", "") with model_lock: try: response = inference_pipeline(user_input) generated_text = response["text"] except Exception as e: return jsonify({"error": str(e)}), 500 return jsonify({"response": generated_text}) if __name__ == "__main__": app.run(host="0.0.0.0", port=8080, threaded=True)

3.2 实现前端交互界面

创建简单的 HTML 页面templates/index.html，提供输入框和消息展示区：

<!DOCTYPE html> <html> <head><title>Qwen 聊天助手</title></head> <body> <h2>Qwen1.5-0.5B-Chat 对话系统</h2> <div id="chat-box" style="border:1px solid #ccc; height:400px; overflow-y:auto; padding:10px;"></div> <input type="text" id="user-input" placeholder="请输入您的问题..." style="width:80%; padding:8px;" /> <button onclick="send()">发送</button> <script> const chatBox = document.getElementById("chat-box"); function send() { const input = document.getElementById("user-input"); const query = input.value.trim(); if (!query) return; // 显示用户消息 appendMessage("你: " + query); input.value = ""; // 请求后端 fetch("/chat", { method: "POST", headers: { "Content-Type": "application/json" }, body: JSON.stringify({ query }) }) .then(res => res.json()) .then(data => { appendMessage("机器人: " + data.response); }); } function appendMessage(text) { const msg = document.createElement("p"); msg.textContent = text; chatBox.appendChild(msg); chatBox.scrollTop = chatBox.scrollHeight; } </script> </body> </html>

3.3 启动服务验证基础功能

运行以下命令启动服务：

python app.py

服务启动后，点击界面上的HTTP (8080端口)访问入口，即可进入聊天界面。输入“你好”，应能收到模型的合理回复，表明基础对话链路已打通。

4. 集成情感分析功能

4.1 功能设计思路

情感分析的目标是判断用户输入语句的情绪倾向（如积极、消极、中性），可用于后续的服务策略调整，例如：

检测到负面情绪时，自动转接人工客服；
统计用户满意度趋势；
触发安抚性回复模板。

我们将基于规则+预训练模型的方式实现轻量级情感分类器。

4.2 加载情感分析模型

选用 HuggingFace 上广泛使用的uer/roberta-base-finetuned-dianping-chinese模型进行中文情感判别：

from transformers import AutoTokenizer, AutoModelForSequenceClassification import torch # 加载情感分析模型和分词器 sentiment_tokenizer = AutoTokenizer.from_pretrained("uer/roberta-base-finetuned-dianping-chinese") sentiment_model = AutoModelForSequenceClassification.from_pretrained("uer/roberta-base-finetuned-dianping-chinese") def analyze_sentiment(text): inputs = sentiment_tokenizer(text, return_tensors="pt", truncation=True, max_length=128) with torch.no_grad(): outputs = sentiment_model(**inputs) logits = outputs.logits predicted_class = torch.argmax(logits, dim=-1).item() # 类别映射：0->负向，1->正向 return "positive" if predicted_class == 1 else "negative"

4.3 修改后端接口以返回情感标签

更新/chat接口，在返回模型回复的同时附加情感分析结果：

@app.route("/chat_with_sentiment", methods=["POST"]) def chat_with_sentiment(): data = request.json user_input = data.get("query", "") with model_lock: try: response = inference_pipeline(user_input) generated_text = response["text"] except Exception as e: return jsonify({"error": str(e)}), 500 # 执行情感分析 sentiment = analyze_sentiment(user_input) return jsonify({ "response": generated_text, "sentiment": sentiment })

4.4 前端展示情感状态

修改前端代码，在消息下方显示情绪图标或颜色标识：

function appendMessage(text, sentiment = "neutral") { const msg = document.createElement("p"); msg.textContent = text; if (sentiment === "positive") { msg.style.color = "green"; } else if (sentiment === "negative") { msg.style.color = "red"; } chatBox.appendChild(msg); chatBox.scrollTop = chatBox.scrollHeight; }

并在send()函数中调用新接口：

fetch("/chat_with_sentiment", { ... }) .then(data => { appendMessage("机器人: " + data.response, data.sentiment); });

5. 性能优化与工程建议

5.1 内存与推理速度优化

尽管 Qwen1.5-0.5B-Chat 已属轻量模型，但在 CPU 上仍存在延迟。可通过以下方式优化：

启用半精度计算：若平台支持，使用float16替代float32可减少显存占用；
缓存模型实例：避免重复加载；
限制最大生成长度：设置max_new_tokens=128防止过长输出拖慢响应。

5.2 错误处理与日志记录

生产环境中需增加异常捕获机制和日志输出：

import logging logging.basicConfig(level=logging.INFO) @app.errorhandler(500) def internal_error(e): logging.error("Server error: %s", e) return jsonify({"error": "Internal server error"}), 500