Cloudflare のグローバルネットワーク上で、エッジ推論、ベクトルデータベース、モデルゲートウェイを使って AI アプリケーションを構築し、デプロイできます。Workers AI は、大規模言語モデル（LLM）、テキスト埋め込み、画像生成などのモデルを従量課金で実行します。AI Gateway は OpenAI、Anthropic などのプロバイダーへのリクエストをプロキシし、キャッシュと統合分析を提供します。Vectorize は Retrieval Augmented Generation（RAG）ワークフロー向けに埋め込みを保存します。
AI アプリケーションには、予測しにくい推論コスト、遅延に敏感なユーザー体験、複数のモデルプロバイダーとの連携といった、特有のインフラ課題があります。Cloudflare は、高速でコスト効率がよく、グローバルに分散した AI アプリケーションを構築できるプラットフォームを提供します。
ベクトル検索と大規模言語モデル（LLM）の推論を組み合わせて、自社データに基づく応答を生成します。
- Vectorize はナレッジベースの埋め込みを保存します
- Workers はユーザーのクエリを受け取り、関連するコンテキストを検索します
- Workers AI または AI Gateway は、取得したコンテキストを使って応答を生成します
AI Gateway を使い、単一のインターフェースを維持したまま、複数のプロバイダーへリクエストをルーティングします。
- AI Gateway は OpenAI、Anthropic、Workers AI へのリクエストをプロキシします
- 組み込みのキャッシュで、繰り返しのクエリのコストを下げます
- すべてのプロバイダーに対して、ログと分析を統一します
低遅延の AI 機能を、エッジに直接デプロイします。
- Workers は最寄りの Cloudflare 拠点でリクエストを処理し、Workers AI バインディング経由で推論を実行します。オリジンサーバーへの往復は不要です
- KV は頻出する応答をキャッシュし、推論呼び出しと遅延を減らします
- D1 はセッション状態と会話履歴を、推論ロジックと同じ場所に保存します
- Cloudflare アカウント ↗
- マシンに Node.js ↗（バージョン 16.17.0 以降）をインストールしていること
- Wrangler をインストールしていること。Wrangler は、Workers のデプロイとバインディング管理用のコマンドラインインターフェイス（CLI）です
- Cloudflare アカウント ↗
- AI Gateway は、Cloudflare にドメインを追加する必要はありません。API エンドポイントを AI Gateway 経由に変更すれば、既存の任意の AI プロバイダー（OpenAI、Anthropic など）の前に配置できます
- 既存のアプリケーションに Workers AI の推論または Vectorize を追加する場合は、Node.js ↗（バージョン 16.17.0 以降）と Wrangler も必要です
Workers AI のモデル
テキスト生成、埋め込み、画像生成などの利用可能なモデルを確認します。
AI Gateway のプロバイダー
AI Gateway 経由で OpenAI、Anthropic、Google AI などのプロバイダーに接続します。