AI サービスがサイトのコンテンツへアクセスする方法を監視し、制御します。
AI 企業は、モデルの学習や AI アプリケーションの基盤として Web コンテンツを使います。AI Crawl Control(旧称 AI Audit)は、どの AI サービスがコンテンツにアクセスしているかを可視化し、希望に応じてアクセスを管理するツールを提供します。
AI Crawl Control では、次のことができます。
- どの AI サービスがコンテンツにアクセスしているかを確認する — ダッシュボードでクローラーのアクティビティとリクエストの傾向を監視します
- 細かいポリシーでアクセスを制御する — クローラーごとに許可またはブロックのルールを設定します
- robots.txt の遵守状況を監視する — どのクローラーが指示に従っているかを追跡し、強制ルールを作成します
- 収益化の選択肢を検討する — コンテンツアクセス向けに Pay Per Crawl の料金を設定します (プライベートベータ)
- 設定なしで導入する — すべての Cloudflare プランで自動的に動作します
AI クローラーがドメインとやり取りする方法を制御します。
AI クローラーがページとどのようにやり取りしているかを把握します。
robots.txt ファイルの健全性を追跡し、指示に違反しているクローラーを特定します。
クロールごとに支払うことで、AI クローラーがコンテンツにアクセスできるようにします。
出版社とコンテンツ制作者
出版社とコンテンツ制作者は、記事や教育コンテンツにアクセスしている AI クローラーを監視できます。有益なクローラーは許可し、ほかはブロックするポリシーを設定します。
E コマースとビジネスサイト
E コマースとビジネスサイトは、商品ページやビジネス情報に対する AI クローラーのアクティビティを特定できます。価格や在庫など、機微なデータへのアクセスを制御します。
ドキュメントサイト
ドキュメントサイトは、技術ドキュメントへの AI クローラーのアクセスを追跡できます。クローラーがサイトとどのように関わっているかを把握します。
自動化トラフィックを識別して軽減し、悪意のあるボットからドメインを保護します。
脆弱性からの自動保護と、カスタムルールを作成できる柔軟性を得られます。
ドメインのトラフィックを表示し、分析します。