Skip to content

非公式 / UnofficialCloudflare, Inc. 非提携。アカウント情報は入力しないでください。Not affiliated with Cloudflare, Inc. Do not enter Cloudflare credentials here.Official docsこのサイトについてプライバシー

AI Security for Apps

最終更新 Markdown で表示Agent セットアップ

大規模言語モデル(LLM)を使うアプリケーションは、LLM が入力を処理する仕方に固有の脅威にさらされます。プロンプトインジェクション攻撃、プロンプト内の PII(個人識別情報)の露出、危険なトピックに関するプロンプトです。

AI Security for Apps(旧称 Firewall for AI)は、既存の WAF ルールに加え、こうした LLM 固有の脅威向けの検出を提供します。モデル非依存です。どの LLM を使っていても検出は動作します。

  • PII 検出 — 受信プロンプト内の個人識別情報(PII)を検出します。電話番号、メールアドレス、社会保障番号、クレジットカード番号などです。
  • 危険なトピックとカスタムトピックの検出 — 暴力犯罪やヘイトスピーチなどの危険な主題、または組織固有のカスタムトピックに関連するプロンプトを検出します。
  • プロンプトインジェクション検出 — LLM の意図した動作を覆すように設計されたプロンプトを検出します。指示を無視させたり、システムプロンプトを吐き出させたりする試みなどです。

有効にすると、AI Security for Apps は cf-llm ラベルが付いたエンドポイント への受信リクエストをスキャンし、脅威を含む可能性のある LLM プロンプトを探します。現時点では、検出は JSON の Content-Type(application/json)のリクエストのみを対象にします。

スキャン結果に基づき、Cloudflare は AI 検出フィールド を設定します。WAF ルール式で使えるフィールドです。次の 2 通りの使い方ができます。

  • 監視: Security Analytics で cf-llm ラベルで絞り込み、トラフィック全体の検出結果を確認します。
  • 緩和: カスタムルール または レート制限ルール でこれらのフィールドを使い、検出結果に基づいてリクエストをブロックまたはチャレンジします。

提供状況

AI Security for Apps の機能は、Cloudflare プランによって異なります。

機能 Free Pro Business Enterprise
LLM エンドポイントの検出 — Web プロパティ全体で AI を使うエンドポイントを自動で特定します あり あり あり あり
AI Security Log Mode Ruleset — 検出結果とあわせてリクエスト本文全体をログする、事前構築のルールセットです なし なし なし 有料アドオン
AI 検出フィールド — PII 検出、プロンプトインジェクションスコア、危険なトピック検出、カスタムトピックです なし なし なし 有料アドオン

AI Security Log Mode Ruleset へのアクセスと AI 検出フィールド の有効化については、アカウントチームにお問い合わせください。

AI Security for Apps は Cloudflare Web Application Firewall (WAF) に組み込まれています。検出フィールドを設定し、ルール式で使うには、ゾーンで WAF を有効にする必要があります。

関連リソース

役に立ちましたか?