大規模言語モデル（LLM）を使うアプリケーションは、LLM が入力を処理する仕方に固有の脅威にさらされます。プロンプトインジェクション攻撃、プロンプト内の PII（個人識別情報）の露出、危険なトピックに関するプロンプトです。
AI Security for Apps（旧称 Firewall for AI）は、既存の WAF ルールに加え、こうした LLM 固有の脅威向けの検出を提供します。モデル非依存です。どの LLM を使っていても検出は動作します。
- PII 検出 — 受信プロンプト内の個人識別情報（PII）を検出します。電話番号、メールアドレス、社会保障番号、クレジットカード番号などです。
- 危険なトピックとカスタムトピックの検出 — 暴力犯罪やヘイトスピーチなどの危険な主題、または組織固有のカスタムトピックに関連するプロンプトを検出します。
- プロンプトインジェクション検出 — LLM の意図した動作を覆すように設計されたプロンプトを検出します。指示を無視させたり、システムプロンプトを吐き出させたりする試みなどです。
有効にすると、AI Security for Apps は cf-llm ラベルが付いたエンドポイント への受信リクエストをスキャンし、脅威を含む可能性のある LLM プロンプトを探します。現時点では、検出は JSON の Content-Type（application/json）のリクエストのみを対象にします。
スキャン結果に基づき、Cloudflare は AI 検出フィールド を設定します。WAF ルール式で使えるフィールドです。次の 2 通りの使い方ができます。
- 監視: Security Analytics で
cf-llmラベルで絞り込み、トラフィック全体の検出結果を確認します。 - 緩和: カスタムルール または レート制限ルール でこれらのフィールドを使い、検出結果に基づいてリクエストをブロックまたはチャレンジします。
AI Security for Apps の機能は、Cloudflare プランによって異なります。
| 機能 | Free | Pro | Business | Enterprise |
|---|---|---|---|---|
| LLM エンドポイントの検出 — Web プロパティ全体で AI を使うエンドポイントを自動で特定します | あり | あり | あり | あり |
| AI Security Log Mode Ruleset — 検出結果とあわせてリクエスト本文全体をログする、事前構築のルールセットです | なし | なし | なし | 有料アドオン |
| AI 検出フィールド — PII 検出、プロンプトインジェクションスコア、危険なトピック検出、カスタムトピックです | なし | なし | なし | 有料アドオン |
AI Security Log Mode Ruleset へのアクセスと AI 検出フィールド の有効化については、アカウントチームにお問い合わせください。
AI Security for Apps は Cloudflare Web Application Firewall (WAF) に組み込まれています。検出フィールドを設定し、ルール式で使うには、ゾーンで WAF を有効にする必要があります。
- AI Gateway — LLM プロバイダーへのリクエストを監視、制御、キャッシュします。
- LLM 向け OWASP Top 10 リスクとは ↗ — LLM を使うアプリケーションでよくあるセキュリティリスクの背景です。