リランキング

リランキングは、取得したドキュメントをユーザーのクエリとの意味的な関連度で並べ替え、AI Search の結果品質を上げます。取得のあとで二次モデルを適用し、上位結果をリランキングしてから返します。

デフォルトでは、すべての AI Search インスタンスでリランキングは 無効 です。作成時、またはあとから設定ページで有効にできます。

有効にすると、AI Search は次の処理を行います。

1. max_num_results と score_threshold の制約のもと、インデックスから関連する結果セットを取得します。
2. その結果を リランキングモデル に渡します。
3. リランキング済みの結果を返します。テキスト生成モデルは、この結果を応答生成に使えます。

リランキングは精度の向上に役立ちます。特に、データセットが大きくノイズが多い場合、ベクトル類似度だけでは最適な順序にならないことがあります。

Workers バインディング または REST API で /search または /chat/completions をリクエストするとき、リクエストごとにリランキングの有効／無効と、リランキングモデルを指定できます。

const instance = env.AI_SEARCH.get("my-instance");

const results = await instance.search({
	messages: [{ role: "user", content: "What is Cloudflare?" }],
	ai_search_options: {
		reranking: {
			enabled: true,
			model: "@cf/baai/bge-reranker-base",
		},
	},
});

リランキングを追加すると、クエリリクエストに処理が 1 段増えます。そのため、リクエストのレイテンシが上がることがあります。