本文记录一次从 Milvus 容器反复重启、端口拒绝，到最终稳定运行并实现 LangChain RAG 成功检索的完整实战过程。适用于本地 RAG、私有大模型、知识库系统等场景。
一、背景与问题
在本地构建 RAG（Retrieval-Augmented Generation）时，开发者常遇到以下典型问题：
telnet 19530 连接被拒绝- Milvus 容器反复 Restarting (1)
- pymilvus 能连上，但 LangChain 查不到数据
- 不清楚 Milvus 中的「tag / metadata」到底存在哪里
本文基于 Milvus 2.4 + LangChain + Ollama（Qwen + bge-m3），逐步解决上述问题。
二、整体架构
LangChain │ ├─ Ollama Embedding (bge-m3) │ ├─ Milvus Vector Store │ ├─ etcd │ ├─ minio │ └─ standalone │ └─ Ollama LLM (qwen2.5)Python 3.9 / 3.10 / 3.11 均可支持。
pip install -U \ langchain \ langchain-core \ langchain-community \ langchain-text-splitters \ langchain-ollama \ pymilvus \ faiss-cpu三、Milvus Docker Compose（稳定版）
注意：Milvus standalone 必须依赖 etcd + minio，不能直接使用docker run milvusdb/milvus，否则 19530 端口不会监听。
docker-compose.yml
version: '3.5'services: rag-etcd: container_name: rag-milvus-etcd image: quay.io/coreos/etcd:v3.5.5 volumes: - ./rag-volumes/etcd:/etcd command: > etcd -advertise-client-urls=http://127.0.0.1:2379 -listen-client-urls http://0.0.0.0:2379 --data-dir /etcd rag-minio: container_name: rag-milvus-minio image: minio/minio:RELEASE.2023-03-20T20-16-18Z environment: MINIO_ACCESS_KEY: minioadmin MINIO_SECRET_KEY: minioadmin ports: - "19000:9000" - "19001:9001" volumes: - ./rag-volumes/minio:/minio_data command: minio server /minio_data --console-address ":9001" rag-milvus: container_name: rag-milvus-standalone image: milvusdb/milvus:v2.4.0 command: ["milvus", "run", "standalone"] environment: ETCD_ENDPOINTS: rag-etcd:2379 MINIO_ADDRESS: rag-minio:9000 volumes: - ./rag-volumes/milvus:/var/lib/milvus ports: - "19530:19530" - "9091:9091" depends_on: - rag-etcd - rag-minionetworks: default: name: rag-milvus-net启动命令：
docker compose up -d四、验证 Milvus 是否正常
telnet 验证端口
telnet 127.0.0.1 19530若看到如下输出：
Connected to 127.0.0.1.HTTP/1.1 400 Bad Request这是正常现象，因为 19530 是 gRPC 端口，并非 HTTP 接口。
Python 连接 Milvus
from pymilvus import connections, utility, Collectionconnections.connect( host="127.0.0.1", port="19530")print("connected:", connections.has_connection("default"))print("collections:", utility.list_collections())五、理解 Milvus 里的 “tag / metadata”
Milvus 没有内置 tag 概念。所谓的 tag，本质是 Collection schema 中的 scalar 字段。
查看 collection schema：
col = Collection("rag_qwen_prod")print(col.schema)典型结构如下：
id (INT64, primary)vector (FLOAT_VECTOR)text (VARCHAR)source (VARCHAR)category (VARCHAR)其中source/category即为 RAG 中的 tag。
六、LangChain + Ollama + Milvus 实战
Embedding（bge-m3）
from langchain_ollama import OllamaEmbeddingsembeddings = OllamaEmbeddings( model="bge-m3", base_url="http://192.168.31.161:11434")构造文档
from langchain_core.documents import Documentdocs = [ Document(page_content="RAG 是检索增强生成"), Document(page_content="Milvus 是生产级向量数据库"), Document(page_content="Qwen2.5 是高质量中文大模型"),]文本切分
from langchain_text_splitters import RecursiveCharacterTextSplittersplitter = RecursiveCharacterTextSplitter( chunk_size=300, chunk_overlap=50)docs = splitter.split_documents(docs)写入 Milvus
from langchain_community.vectorstores import Milvusvectorstore = Milvus.from_documents( docs, embedding=embeddings, collection_name="rag_qwen_prod", connection_args={ "host": "localhost", "port": "19530" })Retriever
retriever = vectorstore.as_retriever( search_kwargs={"k": 3})LLM（Qwen2.5）
from langchain_ollama import ChatOllamallm = ChatOllama( model="qwen2.5:7b", temperature=0)Prompt & LCEL RAG Chain
from langchain_core.prompts import ChatPromptTemplatefrom langchain_core.runnables import RunnablePassthroughprompt = ChatPromptTemplate.from_messages([ ("system", "你只能基于上下文回答问题，不允许编造"), ("human", "上下文：\n{context}\n\n问题：{question}")])rag_chain = ( { "context": retriever, "question": RunnablePassthrough() } | prompt | llm)查询验证
result = rag_chain.invoke("什么是 Milvus？")print(result.content)输出示例：
Milvus 是一个生产级向量数据库，用于高效存储和检索向量数据。RAG 生效。
七、完整代码与常见问题总结
from langchain_ollama import ChatOllama, OllamaEmbeddingsfrom langchain_community.vectorstores import Milvusfrom langchain_text_splitters import RecursiveCharacterTextSplitterfrom langchain_core.documents import Documentfrom langchain_core.prompts import ChatPromptTemplatefrom langchain_core.runnables import RunnablePassthrough# 1. Embeddingembeddings = OllamaEmbeddings( model="bge-m3", base_url="http://192.168.31.161:11434")# 2. 文档docs = [ Document(page_content="RAG 是检索增强生成"), Document(page_content="Milvus 是生产级向量数据库"), Document(page_content="Qwen2.5 是高质量中文大模型"),]# 3. 切分splitter = RecursiveCharacterTextSplitter( chunk_size=300, chunk_overlap=50)docs = splitter.split_documents(docs)# 4. Milvus Vector Storevectorstore = Milvus.from_documents( docs, embedding=embeddings, collection_name="rag_qwen_prod", connection_args={ "host": "localhost", "port": "19530" })retriever = vectorstore.as_retriever(search_kwargs={"k": 3})# 5. LLMllm = ChatOllama( model="qwen2.5:7b", temperature=0)# 6. Promptprompt = ChatPromptTemplate.from_messages([ ("system", "你只能基于上下文回答问题，不允许编造"), ("human", "上下文：\n{context}\n\n问题：{question}")])# 7. LCEL RAG Chainrag_chain = ( { "context": retriever, "question": RunnablePassthrough() } | prompt | llm)# 8. Queryresult = rag_chain.invoke("什么是 Milvus？")print(result.content)| 问题 | 原因 |
|---|---|
| 19530 连接被拒绝 | 直接 docker run Milvus |
| 容器重启 | 缺少 etcd / minio |
| telnet 返回 400 | 正常（gRPC） |
| 查不到 tag | schema 没定义 metadata |
| LangChain 无结果 | embedding 不一致 |
八、下一步可以做什么？
- 多 tag / 多租户 RAG
- expr 过滤（
category == 'ops'） - Milvus IVF / HNSW 调优
- Streaming RAG
- Web UI + API 服务化
九、结语
Milvus + LangChain + Ollama 是目前本地 RAG 的黄金组合：
- Milvus：性能与扩展性
- Ollama：本地模型自由
- LangChain：链路清晰、可组合
学AI大模型的正确顺序，千万不要搞错了
🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！
有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！
就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！
我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～
