现代搜索pipelines 很少直接从检索中返回最终答案。即使你的 search 系统由高质量的索引或语义检索方法驱动，前几名结果中仍可能包含相关但不一定是最佳答案的候选内容。

这就是 reranking 变得至关重要的原因。

Reranker 会接收一个 query 和一组候选段落，将它们一起阅读，并生成一个新的排序，反映更深层次的语义相关性。它不是孤立地对 documents 打分，而是相互比较，确定哪些段落最直接回答用户的意图。

在本教程中，我们重点介绍如何在 Elasticsearch 内使用 Jina Reranker v3。我们的目标很简单：给定一个 query 和一组 documents，展示 Elasticsearch 如何调用 jina-reranker-v3。

所有操作都在 Dev Tools → Console 中进行，使用 Elasticsearch 的 open Inference API。

步骤 1 — 在 Elasticsearch 中注册 jina-reranker-v3

Elasticsearch 通过 Inference API 与外部 AI models 集成。要使用 jina-reranker-v3，我们需要定义一个 inference endpoint 并提供 Jina API key。你可以在官网找到你的 API key。

PUT _inference/rerank/jina_rerank_v3 { "service": "jinaai", "service_settings": { "api_key": "YOUR_JINA_API_KEY", "model_id": "jina-reranker-v3" }, "task_settings": { "top_n": 10, "return_documents": true } }

当此操作成功完成后，Elasticsearch 就可以将文本和 documents 直接发送到 Jina model，并接收 reranked 结果。

步骤 2 — 为演示索引一些 documents

（任何文本语料库都可以——我们只需要将 documents 存储在 Elasticsearch 中，以便传递给 reranker。）

这里我们索引了一个小型多语言文学数据集。没有 embedding 逻辑，也没有 vector 字段——我们故意保持索引简单：

POST _inference/rerank/jina_rerank_v3 { "input": [ "Pain can lead a person back to truth, for suffering often reveals what comfort hides.", "Страдание возвращает человека к истине, ведь в муке открывается то, что скрыто в покое.", "La souffrance rapproche de la vérité, car elle met à nu ce que le calme dissimule.", "Das Leiden führt den Menschen zur Wahrheit, denn im Schmerz zeigt sich, was die Ruhe verbirgt." ], "query": "How does suffering reveal hidden truth?", "return_documents": true, "top_n": 4 }

_inference/rerankAPI 需要一个 query 字符串和一个候选 documents 的 input 数组。input 中的每个元素都是需要排序的纯文本段落。响应返回一个 rerank 数组，每个条目包含文档的原始索引、语义相关性分数，以及可选的文档文本。

如果一切正常，你应该会看到如下结果：

{ "rerank": [ { "index": 2, "relevance_score": 0.31203735, "text": "La souffrance rapproche de la vérité, car elle met à nu ce que le calme dissimule." }, { "index": 0, "relevance_score": 0.2740799, "text": "Pain can lead a person back to truth, for suffering often reveals what comfort hides." }, { "index": 3, "relevance_score": 0.2597439, "text": "Das Leiden führt den Menschen zur Wahrheit, denn im Schmerz zeigt sich, was die Ruhe verbirgt." }, { "index": 1, "relevance_score": 0.24595186, "text": "Страдание возвращает человека к истине, ведь в муке открывается то, что скрыто в покое." } ] }

从概念上讲，这就是 reranker 的全部功能：给定一个 query 和一小组候选文本，它会决定哪些最相关，并按顺序返回。它不关心这些候选文本是如何获得的——无论是来自 BM25、vector search、filters 还是人工挑选列表——因此你几乎可以将它集成到任何现有的 search 流程中。

2.1 创建 embedding model endpoint

该 endpoint 允许 Elasticsearch 将文本发送到 jina-embeddings-v3，并存储返回的 vectors。

PUT _inference/text_embedding/jina_embeddings { "service": "jinaai", "service_settings": { "api_key": "YOUR_JINA_API_KEY", "model_id": "jina-embeddings-v3" } }

如果运行成功，你应该会看到 200 OK 的确认信息。

2.2 创建 reranker model endpoint

接下来，我们注册 jina-reranker-v3 endpoint。

PUT _inference/rerank/jina_rerank_v3 { "service": "jinaai", "service_settings": { "api_key": "jina_8dc23ecb303841b6880bebf0b89860ef7OkZrj9jFBpRR13AC1hwZmBKgP6n", "model_id": "jina-reranker-v3" }, "task_settings": { "top_n": 10, "return_documents": true } }

步骤 3 — 创建包含文本和 vector 字段的索引

现在我们将创建一个包含以下内容的小型索引：

• metadata（id、lang、title）
• 文档文本（content）
• 由 Jina embedding endpoint 生成的 dense vector（embedding）

运行：

PUT multilingual-rerank-demo { "mappings": { "properties": { "id": { "type": "keyword" }, "lang": { "type": "keyword" }, "title": { "type": "text" }, "content": { "type": "text" }, "embedding": { "type": "dense_vector", "dims": 1024, "index": true, "similarity": "cosine" } } } }

jina-embeddings-v3 可以生成多种尺寸的 vectors，但在本教程中，我们使用 1024 维，因为它提供最强的检索准确性，并且与模型的默认配置一致，让我们可以专注于 search 流程，而不是调整 embedding 参数。在实际部署中，如果需要优化存储或延迟，可以选择较小的维度，例如 256 或 512，但 1024 为演示整个 pipeline 提供了清晰的基线。

步骤 4 — 添加 ingest pipeline 以自动生成 embeddings

每次索引一个 document 时，Elasticsearch 都可以调用 jina_embeddings endpoint，获取 vector 并直接存储到 embedding 字段中。

创建 pipeline：

PUT _ingest/pipeline/jina_embed_pipeline { "description": "Generate embeddings with jina-embeddings-v3", "processors": [ { "inference": { "model_id": "jina_embeddings", "input_output": { "input_field": "content", "output_field": "embedding" } } } ] }

步骤 5 — 索引一个小型多语言数据集

我们将索引四段短文本，分别使用四种语言。它们描述的是相同的概念（新兴音乐风格），便于观察 vector search 和 reranking 的表现。

确保在命令中包含 pipeline 参数：

POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "1", "lang": "en", "title": "The burden of conscience", "content": "Pain can lead a person back to truth, for suffering often reveals what comfort hides." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "2", "lang": "ru", "title": "Бремя совести", "content": "Страдание возвращает человека к истине, ведь в муке открывается то, что скрыто в покое." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "3", "lang": "fr", "title": "Le poids de la conscience", "content": "La souffrance rapproche de la vérité, car elle met à nu ce que le calme dissimule." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "4", "lang": "de", "title": "Die Last des Gewissens", "content": "Das Leiden führt den Menschen zur Wahrheit, denn im Schmerz zeigt sich, was die Ruhe verbirgt." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "5", "lang": "en", "title": "A quiet confession", "content": "A restless heart learns more in a single night of torment than in a year of peaceful silence." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "6", "lang": "it", "title": "La confessione silenziosa", "content": "Un cuore inquieto comprende in una notte di tormento ciò che non scopre in un anno di calma apparente." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "7", "lang": "en", "title": "The shadow of guilt", "content": "When guilt grows heavy, a person searches for truth not out of virtue, but out of necessity." } POST multilingual-rerank-demo/_doc?pipeline=jina_embed_pipeline { "id": "8", "lang": "ru", "title": "Тень вины", "content": "Когда вина становится невыносимой, человек ищет правду не из добродетели, а потому что иначе не может жить." }

这四段文本表达了相同的核心思想，但表述形式完全不同。对于 BM25，它们几乎没有重叠的关键词。对于 dense retrieval 和 reranking，它们形成了一个清晰的语义聚类。这个对比可以让我们清楚地看到每种检索方法的优劣，以及 reranker 如何解决仅靠 keyword search 或 vector search 无法处理的歧义。

步骤 6 — 对哲学性查询比较 BM25 和 vector search

现在索引已填充，我们可以观察经典 keyword search 和 dense retrieval 在更抽象问题上的表现。

假设用户提出以下问题：

“How does suffering reveal hidden truth?”

我们将首先在 content 字段上运行仅使用 BM25 的查询：

POST multilingual-rerank-demo/_search { "query": { "match": { "content": "How does suffering reveal hidden truth?" } }, "_source": ["id", "lang", "title", "content"] }

BM25 会关注字面重叠：“suffering”、“truth”，也可能是“hidden”。根据 Elasticsearch 如何对这些词进行分词和翻译，它可能返回合理的结果，但对精确词语和文档语言非常敏感。Russian 或 Italian 文本可能排名较低，仅仅因为它们与 English 查询没有共享 token，即使它们表达的是相同的想法。

为了对比，我们使用 jina-embeddings-v3 运行 vector search。首先，我们向 embedding endpoint 请求查询的 search embedding：

POST _inference/text_embedding/jina_embeddings { "input": ["How does suffering reveal hidden truth?"], "input_type": "search" }

这会返回一个 1024 维的 vector。将响应中的 embedding 数组复制，并将其填入 kNN search：

POST multilingual-rerank-demo/_search { "knn": { "field": "embedding", "query_vector": [YOUR EMBEDDINGS], "k": 10, "num_candidates": 100 }, "_source": ["id", "lang", "title", "content"] }

现在模型可以忽略字面措辞，专注于语义接近度。任何语言中讨论 suffering、truth、conscience 和 inner struggle 的文档往往会排在前面。这已经比 BM25 显得“更智能”，但请注意，排序仍然由每个文档的单一相似度分数驱动：它不会考虑文档之间的关系，也不会判断哪一条是多个合理答案中最好的。

这正是 reranking 要解决的问题。

步骤 7 — 使用 Reciprocal Rank Fusion (RRF) 构建 hybrid retriever

在实际应用中，我们很少仅在 BM25 和 vector search 之间选择；我们希望两者兼顾。Elasticsearch 提供了一个 RRF retriever，可以将多种检索策略合并成一个单一的 ranked list，使用 reciprocal rank fusion。

无需编写两个独立查询并手动合并结果，我们可以在一次_search调用中使用 retriever 语法表达 hybrid search。

首先，再次获取 query embedding（如步骤 6）。然后将 vector 填入以下请求：

POST multilingual-rerank-demo/_search { "retriever": { "rrf": { "retrievers": [ { "standard": { "query": { "match": { "content": "How does suffering reveal hidden truth?" } } } }, { "knn": { "field": "embedding", "query_vector": [0.0123, -0.0456, ... , 0.0089], "k": 20, "num_candidates": 100 } } ], "rank_window_size": 50, "rank_constant": 20 } }, "_source": ["id", "lang", "title", "content"] }

你通常会看到多语言混合出现在前几名：English、Russian、German、Italian，这取决于 “suffering”、“truth” 和 “conscience” 在 embeddings 和文本中的表示方式。这个 hybrid 列表就是我们将传递给 reranker 的候选集合。

步骤 8 — 将 Jina Reranker v3 添加为最终排序层

目前，hybrid search 仍然为每个文档生成单一分数，没有 “这段不错，但那段是最优答案” 的概念。Reranker 正是用来做这种判断的。

Elasticsearch 将其暴露为text_similarity_rerankerretriever，它会包装另一个 retriever（这里是我们的 RRF hybrid retriever），并将其 top hits 发送到 rerank inference endpoint。

因为我们已经将 jina_rerank_v3 注册为 rerank endpoint，现在可以写：

POST multilingual-rerank-demo/_search { "retriever": { "text_similarity_reranker": { "retriever": { "rrf": { "retrievers": [ { "standard": { "query": { "match": { "content": "How does suffering reveal hidden truth?" } } } }, { "knn": { "field": "embedding", "query_vector": [0.0123, -0.0456, ... , 0.0089], "k": 20, "num_candidates": 100 } } ], "rank_window_size": 50, "rank_constant": 20 } }, "field": "content", "inference_id": "jina_rerank_v3", "inference_text": "How does suffering reveal hidden truth?", "rank_window_size": 20 } }, "_source": ["id", "lang", "title", "content"] }

当我们运行不带 reranking 的 hybrid RRF search 时，English 文本 “Pain can lead a person back to truth, for suffering often reveals what comfort hides” 排在最前面，其次是 English 的 “shadow of guilt” 句子，然后是 Russian 和 French 版本。这很合理：查询是 English，因此 BM25 强烈偏向包含字面词汇（如 “suffering” 和 “truth”）的 English 文档，而 vector retriever 会拉入其他语言的文档，但无法完全控制最终排序。

一旦将 jina-reranker-v3 作为第二阶段，排序就会变得更有针对性。Reranker 会将四条 “suffering reveals truth” 的句子 —— French、German、Russian 和 English —— 移动到列表顶部，并将更偏题的 “guilt and necessity” 段落排到后面。模型不是简单地融合 lexical 和 vector 分数，而是将 query 和候选段落一起阅读在同一上下文中，然后判断哪些最直接回答问题。最终结果是多语言、语义一致，并且明显优化了用户意图，而不是单纯依赖各自的评分启发式。

原文：https://www.elastic.co/search-labs/tutorials/jina-tutorial/jina-reranker-v3