AI Gateway の管理方法はいくつかあります。
AI Gateway は、ゲートウェイを自動で作成できます。リクエストからゲートウェイ ID を完全に省略すると、AI Gateway はゲートウェイ ID として default を使います。アカウントに default という名前のゲートウェイがない場合、最初の認証済みリクエストで作成します。
つまり、先にゲートウェイを作らずにリクエストを送り始められます。AI Gateway がゲートウェイ作成を処理します。
自動作成をトリガーするリクエストは認証されている必要があります。REST API を使う場合は、標準の Authorization ヘッダーで十分です。gateway.ai.cloudflare.com の プロバイダーネイティブエンドポイント を使う場合は、有効な cf-aig-authorization ヘッダーを含めます。Workers AI バインディングでは、ヘッダーの代わりにバインディングからのアカウント ID が使われます。
自動作成されたデフォルトゲートウェイは、次の設定を使います。
| 設定 | デフォルト値 |
|---|---|
| Authentication | On |
| Log collection | On |
| Caching | Off(TTL は 0) |
| Rate limiting | Off |
| Require provider credentials | Off |
| Workers AI billing | Standard billing |
作成後は、ほかのゲートウェイと同じようにデフォルトゲートウェイの設定を編集できます。デフォルトゲートウェイを削除したあと、default ゲートウェイ ID へ新しい認証済みリクエストを送ると、再び自動作成されます。
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選択します。
- AI > AI Gateway を開きます。
- Create Gateway を選択します。
- Gateway name を入力します。ゲートウェイ名は 64 文字までです。
- Workers AI Billing で、このゲートウェイ経由の Workers AI リクエストの課金方法を選びます。
- Standard billing は、各請求サイクルの終わりに Cloudflare アカウントへ課金します。
- Unified billing は、前払いの AI Gateway クレジット残高からリアルタイムで差し引きます。
- Create を選択します。
API で AI Gateway を設定するには、次の手順を行います。
-
次の権限を持つ API トークンを作成 します。
AI Gateway - ReadAI Gateway - Edit
-
Account ID を取得します。
-
その API トークンと Account ID を使い、Cloudflare API へ
POSTリクエスト を送ります。
ダッシュボードで AI Gateway を編集する手順は次のとおりです。
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選びます。
- AI > AI Gateway を開きます。
- 対象のゲートウェイを選びます。
- Settings を開き、必要な項目を更新します。
AI Gateway を編集するには、Cloudflare API に PUT リクエスト を送信します。
デフォルトでは、Workers AI リクエストは Standard billing を使い、各請求サイクルの終わりに Cloudflare アカウントへ課金します。
Workers AI リクエストに前払いの AI Gateway クレジットを使う手順は次のとおりです。
- Cloudflare アカウントに クレジットをチャージします。
- Cloudflare ダッシュボードで AI > AI Gateway を開き、対象のゲートウェイを選びます。
- Settings を開き、Workers AI Billing を見つけます。
- Unified billing を選びます。
- Save を選びます。
このゲートウェイ経由の Workers AI リクエストは、AI Gateway のクレジット残高からリアルタイムで差し引かれます。
サードパーティプロバイダーのリクエストで Unified Billing フォールバックを防ぐには、Require provider credentials をオンにします。ダッシュボードと API の手順は BYOK のサードパーティプロバイダー向けに Unified Billing フォールバックを防ぐ を参照してください。
アップストリームプロバイダーへの失敗したリクエストを、ゲートウェイが自動再試行するよう設定できます。クライアントを制御できず、クライアント側の再試行やバックオフロジックを実装できない場合に便利です。
再試行設定を行う手順は次のとおりです。
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選びます。
- AI > AI Gateway を開き、対象のゲートウェイを選びます。
- Settings を開き、Retry Requests セクションを見つけます。
- トグルをオンにして、自動再試行を有効にします。
- 次の設定を行います。
- Retry count — 再試行の最大回数(最大 5)
- Delay — 再試行間の基本遅延。0.1 秒から 60 秒
- Backoff — 以降の再試行のバックオフ戦略。Constant、Linear、または Exponential
- Save を選びます。
これらのゲートウェイレベルのデフォルトは、ゲートウェイ経由のすべてのリクエストに適用されます。リクエストごとのヘッダーでこれらのデフォルトを上書きできます。詳細は リクエスト処理 を参照してください。
異なるプロバイダーへフェイルオーバーする、より複雑なシナリオについては、Dynamic Routing を参照してください。
ゲートウェイの削除は恒久的であり、元に戻せません。
ダッシュボードで AI Gateway を削除する手順は次のとおりです。
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選択します。
- AI > AI Gateway を開きます。
- 利用可能なオプションの一覧から、対象のゲートウェイを選択します。
- Settings を開きます。
- Delete Gateway で Delete を選択し、削除を確認します。
AI Gateway を削除するには、Cloudflare API へ DELETE リクエスト を送ります。