非同期のバッチ処理では、推論リクエストの集まり（バッチ）を 1 回の呼び出しで送れます。リクエストごとに即時の応答を待つ代わりに、システムが処理用にキューへ入れ、結果はあとから返します。
バッチ処理は、要約や embeddings など、人が介在しない大規模ワークロードに向いています。Batch API を使うと、その時点で Cloudflare に十分な空きがなくてもエラーにせず、リクエストは最終的に処理されます。
バッチリクエストを送ると、API はすぐに queued などの状態で受信を知らせ、一意の request_id を返します。処理が終わったあと、この ID で最終レスポンスをポーリングします。
Batch API は、AI バインディングで Batch API を使う Cloudflare Worker を作成してデプロイするか、REST API を直接使うか、テンプレート ↗ から始めます。
すぐに始めたい場合は、次のボタンをクリックします。
GitHub アカウントにリポジトリが作成され、Cloudflare の非同期 Batch API の使い方を示す、すぐに使える Worker がデプロイされます。テンプレートには、事前設定済みの AI バインディングと、外部参照あり・なしでバッチリクエストを送信・取得する例が含まれます。デプロイ後は、稼働中の Worker を開いて、すぐに Batch API を試せます。
対応モデルは モデルカタログ を参照してください。