动手试试看：跟着教程一步步打造你的Swift-Robot助手

你是否想过拥有一个完全属于自己的AI助手？它不仅能回答问题、生成内容，还能清楚地告诉你：“我是由你亲手打造的”。今天，我们就来一起动手，利用预置镜像，在单张显卡上十分钟内完成对Qwen2.5-7B-Instruct模型的首次微调，让它变成专属于你的“Swift-Robot”！

整个过程无需从零搭建环境，也不用担心复杂的依赖冲突。我们使用的镜像已经为你准备好了一切——从模型到框架，开箱即用。只要你有一块性能足够的显卡（如RTX 4090D），就能快速上手，体验大模型定制的乐趣。

本文将带你从零开始，一步步完成数据准备、模型微调、效果验证全过程。即使你是第一次接触模型微调，也能轻松跟下来。准备好了吗？让我们开始吧！

1. 环境准备与快速部署

在正式开始微调之前，我们需要先确认运行环境是否就绪。本镜像基于ms-swift微调框架构建，预装了 Qwen2.5-7B-Instruct 模型，并针对 NVIDIA RTX 4090D（24GB 显存）进行了优化和验证。

1.1 硬件与路径说明

以下是关键资源配置信息，请确保你的设备满足要求：

提示：所有操作建议在/root目录下执行，避免路径错误导致命令失败。

1.2 启动前检查：测试原始模型表现

在进行任何修改之前，先验证原始模型能否正常推理。这一步可以帮助我们确认环境是否配置正确。

运行以下命令启动交互式对话：

cd /root CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048

执行后你会进入一个对话界面。输入“你是谁？”之类的简单问题，原始模型会回答类似：

“我是阿里云开发的通义千问大语言模型……”

记下这个回答。等我们完成微调后，再问同样的问题，看看它的“身份认知”有没有变化。

2. 自定义身份微调实战

现在进入核心环节：让模型学会一个新的“自我介绍”。我们将通过 LoRA（Low-Rank Adaptation）技术，仅用少量数据和计算资源，教会模型记住自己是由“CSDN 迪菲赫尔曼”开发的 Swift-Robot。

LoRA 是一种高效的参数微调方法，只训练新增的小型矩阵，而不是整个模型。这种方式大幅降低了显存消耗，使得在单卡上微调 70 亿参数级别的模型成为可能。

2.1 准备训练数据集

我们要做的第一件事，就是告诉模型“你想让它怎么回答关于自己的问题”。为此，需要准备一个 JSON 格式的数据集，包含若干条指令-输出对。

镜像中已预置示例文件，或你可以手动创建self_cognition.json文件。以下是创建方式：

cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF

建议：虽然以上 8 条数据足以快速测试，但为了获得更稳定的记忆效果，推荐扩展至 50 条以上，涵盖更多变体提问方式。

2.2 执行 LoRA 微调命令

接下来是最关键的一步——启动微调任务。下面这条命令已经针对单卡 4090D 和 bfloat16 精度做了优化，可以直接运行：

CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

参数简要解释（不必深究，照搬即可）

整个训练过程大约持续 8~12 分钟（视硬件而定），完成后你会在/root/output目录看到类似v2-2025xxxx-xxxx/checkpoint-xxx的文件夹，里面就是你的微调权重。

3. 效果验证：看看它认不认识你

训练结束并不意味着完工。下一步，我们要亲自测试一下，看看这个 AI 是否真的“改头换面”，拥有了新的“灵魂”。

3.1 加载微调后的模型进行推理

使用如下命令加载 LoRA 权重并启动对话：

CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048

注意：请将output/v2-2025xxxx-xxxx/checkpoint-xxx替换为你实际生成的 checkpoint 路径。

进入交互模式后，再次提问：“你是谁？”

如果一切顺利，你应该会听到这样的回答：

“我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。”

恭喜！你刚刚成功打造了一个具有独立身份认知的 AI 助手。它不再是那个千篇一律的“通义千问”，而是真正属于你的Swift-Robot。

3.2 多轮问答测试其稳定性

除了基本的身份识别，还可以尝试其他相关问题，检验模型的记忆一致性：

• “谁在维护你？”
• “你的名字是什么？”
• “你能联网吗？”
• “你和 GPT-4 有什么不同？”

理想情况下，每个问题都应返回你在数据集中设定的标准答案。如果出现偏差，可能是训练轮数不足或数据太少，可以考虑增加 epoch 数或补充更多样本。

4. 进阶技巧：混合训练保持通用能力

前面的做法虽然能让模型记住“我是谁”，但也存在风险：过度拟合少量数据可能导致模型丧失原有的通用对话能力。

为了解决这个问题，我们可以采用混合数据训练策略——既保留原始通用指令数据，又注入自定义身份信息。

4.1 使用开源数据集增强泛化能力

例如，可以将 Alpaca 中文/英文数据与自定义数据合并训练：

swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --gradient_accumulation_steps 16 \ --output_dir output_mixed \ --model_name swift-robot-mixed

这里我们：

• 引入各 500 条中英文通用指令数据
• 保留self_cognition.json中的身份定义
• 将训练轮数减少至 3，防止过拟合
• 输出到新目录output_mixed

这样训练出的模型既能准确表达自我身份，又能流畅应对各种日常问题，真正做到“个性”与“智能”兼备。

5. 总结：每个人都能成为AI创造者

通过这篇手把手教程，我们完成了从环境验证、数据准备、模型微调到效果测试的完整流程。整个过程不到十分钟，却让你亲手塑造了一个独一无二的 AI 助手。

回顾一下我们做到了什么：

1. 快速部署：利用预置镜像省去繁琐环境配置。
2. 轻量微调：借助 LoRA 技术，在单卡上高效完成训练。
3. 身份重塑：通过自定义数据集改变模型的“自我认知”。
4. 效果可验：实时对比微调前后回答差异，直观感受成果。
5. 进阶拓展：掌握混合训练方法，兼顾个性与通用性。

这不仅是一次技术实践，更是一种思维方式的转变：大模型不再是黑盒工具，而是可以被个性化定制的认知载体。

未来，你可以进一步尝试：

• 添加专业领域知识（如编程、数学、法律）
• 构建专属客服机器人
• 训练具备特定语气风格的写作助手
• 批量生成 LoRA 适配器用于不同场景

AI 的边界，正在由每一个愿意动手的人重新定义。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。