如何用Qwen同时做情感分析和对话？完整部署教程来了

1. 项目背景与核心价值

你有没有遇到过这样的问题：想做个能聊天的AI助手，还想让它判断用户情绪，结果一查发现——得装两个模型？一个负责对话，一个搞情感分析。显存不够、依赖冲突、启动慢得像老牛拉车……

今天这篇文章就是来“破局”的。

我们不堆模型，不拼硬件，而是用一个轻量级的大模型Qwen1.5-0.5B，通过巧妙的提示词设计，让同一个模型既能当“冷面分析师”判断情绪，又能秒变“暖心小助手”陪你聊天。整个过程不需要额外下载任何情感分析模型，也不依赖GPU，在普通CPU服务器上就能跑得飞快。

这不仅省了资源，更展示了大语言模型真正的潜力：不是单一工具，而是可编程的通用智能引擎。

2. 技术架构解析：单模型如何身兼两职？

2.1 All-in-One 架构设计理念

传统做法是“一个任务一个模型”：

对话 → 上LLM（比如Qwen）
情感分析 → 再加个BERT类模型

但这样做的代价很高：内存翻倍、加载时间变长、维护复杂度飙升。

我们的方案完全不同：只加载一次Qwen模型，通过切换“角色指令”实现多任务处理。

你可以把它想象成一个演员，换套衣服、改句台词，就能从侦探变成医生。而这一切，都不需要重新请人。

2.2 核心技术支撑：上下文学习 + 指令工程

这个玩法能成立，靠的是两个关键技术：

In-Context Learning（上下文学习）
大模型具备根据当前输入的上下文动态调整行为的能力。我们利用这一点，在每次请求前注入不同的系统提示（System Prompt），引导模型进入对应模式。
Prompt Engineering（提示词工程）
精心设计的指令决定了模型的表现。我们要让Qwen在情感分析时严谨客观，在对话时温暖自然——全靠提示词控制。

3. 环境准备与快速部署

3.1 系统要求与依赖安装

本项目主打轻量化和易部署，对环境要求极低：

项目	要求
CPU	支持AVX2即可（如Intel i5以上）
内存	≥8GB
Python版本	3.9+
GPU	非必需，纯CPU运行

首先创建虚拟环境并安装核心依赖：

python -m venv qwen-env source qwen-env/bin/activate # Linux/Mac # 或 qwen-env\Scripts\activate # Windows pip install torch transformers gradio sentencepiece

注意：这里没有使用ModelScope或其他封装库，直接调用HuggingFace官方Transformers，确保技术栈干净可控。

3.2 下载模型并加载

我们选用的是Qwen/Qwen1.5-0.5B这个轻量版本，参数量仅5亿，适合边缘设备或本地开发机运行。

from transformers import AutoTokenizer, AutoModelForCausalLM model_name = "Qwen/Qwen1.5-0.5B" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained( model_name, device_map="auto", # 自动选择设备（CPU/GPU） trust_remote_code=True )

首次运行会自动从HuggingFace下载模型权重（约1.1GB），之后即可离线使用。

4. 实现双任务逻辑：从提示词到功能落地

4.1 情感分析模式设计

为了让Qwen专注做情感判断，我们需要给它一个明确的角色设定和输出规范。

def get_sentiment_prompt(text): return f"""你是一个冷静、客观的情感分析系统。 请严格根据以下文本内容判断其情感倾向，只能回答“正面”或“负面”，不要解释。 文本：{text} 情感倾向："""

关键点说明：

角色定义清晰：“冷静、客观”
输出格式强制限定：“只能回答‘正面’或‘负面’”
禁止多余输出：“不要解释”

这样做可以极大压缩生成长度，提升响应速度，尤其适合批量处理场景。

4.2 开放域对话模式构建

当切换到聊天模式时，我们就让Qwen回归助手身份，使用标准的对话模板。

def get_chat_prompt(history): system_msg = "你是一个乐于助人、富有同理心的AI助手。" messages = [{"role": "system", "content": system_msg}] + history return tokenizer.apply_chat_template(messages, tokenize=False)

这里用到了Qwen原生支持的apply_chat_template方法，自动生成符合其训练格式的输入序列，保证对话流畅自然。

5. 完整代码实现：一键运行的Web应用

我们将上述逻辑整合成一个简单的Gradio界面，方便测试和演示。

import gradio as gr def analyze_and_respond(user_input, chat_history): # 第一步：情感分析 sentiment_prompt = get_sentiment_prompt(user_input) inputs = tokenizer(sentiment_prompt, return_tensors="pt") outputs = model.generate(**inputs, max_new_tokens=10) sentiment = tokenizer.decode(outputs[0], skip_special_tokens=True).strip() # 提取情感结果（假设输出包含“正面”或“负面”） if "负面" in sentiment: sentiment_label = "负面 😞" else: sentiment_label = "正面 😄" # 第二步：生成对话回复 new_message = {"role": "user", "content": user_input} chat_history.append(new_message) chat_prompt = get_chat_prompt(chat_history) inputs = tokenizer(chat_prompt, return_tensors="pt") outputs = model.generate(**inputs, max_new_tokens=128) response = tokenizer.decode(outputs[0], skip_special_tokens=True) # 解析出AI回复部分（去除历史内容） if user_input in response: bot_reply = response.split(user_input)[-1].strip() else: bot_reply = response.strip() # 添加到历史记录 chat_history.append({"role": "assistant", "content": bot_reply}) return f"🧠 LLM 情感判断: {sentiment_label}", chat_history # Gradio 界面搭建 with gr.Blocks(title="Qwen 双任务智能系统") as demo: gr.Markdown("# Qwen All-in-One：情感分析 + 智能对话") gr.Markdown("输入一句话，AI先判断情绪，再和你聊天！") with gr.Row(): with gr.Column(scale=2): chatbot = gr.Chatbot(label="对话窗口") with gr.Column(scale=1): sentiment_output = gr.Textbox(label="情感分析结果", placeholder="等待输入...") msg = gr.Textbox(label="你的消息") clear = gr.Button("清空对话") msg.submit(analyze_and_respond, [msg, chatbot], [sentiment_output, chatbot]) clear.click(lambda: (None, []), None, [chatbot, sentiment_output]) # 启动服务 demo.launch(server_name="0.0.0.0", server_port=7860)

保存为app.py并运行：