Guardrails は、ユーザープロンプトとモデルレスポンスの両方をインターセプトし、有害コンテンツを評価することで、AI アプリケーションを安全にデプロイできるようにします。アプリケーションと モデルプロバイダー（OpenAI、Anthropic、DeepSeek など）の間のプロキシとして動作し、AI Gateway の Guardrails は AI エコシステム全体で一貫した安全な体験を確保します。
Guardrails はユーザーと AI モデルのやり取りをプロアクティブに監視し、次を提供します。
- 一貫したモデレーション: モデルとプロバイダーを横断して働く、統一されたモデレーション層です。
- 安全性とユーザー信頼の向上: 有害または不適切なやり取りから、ユーザーを事前に保護します。
- 許可するコンテンツの柔軟な制御: 監視するカテゴリを指定し、フラグ付けか完全ブロックかを選べます。
- 監査とコンプライアンス: ユーザープロンプト、モデルレスポンス、適用したガードレールのログで、変化する規制要件への対応を把握できます。
AI Gateway は、定義済みの安全パラメーターに対してコンテンツを評価し、すべてのやり取りをリアルタイムで検査します。Guardrails の動作は次のとおりです。
-
やり取りのインターセプト: AI Gateway はユーザーと AI モデルの間に位置し、リクエストとレスポンスをプロキシします。
-
コンテンツの検査:
- ユーザープロンプト: AI Gateway は安全パラメーター（暴力、ヘイト、性的コンテンツなど）に対してプロンプトを確認します。設定に応じて、モデルに届く前にフラグ付けまたはブロックできます。
- モデルレスポンス: 処理後、AI モデルのレスポンスを検査します。有害なコンテンツが検出された場合、ユーザーに届く前にフラグ付けまたはブロックできます。
-
アクションの適用: 設定に応じて、フラグ付きコンテンツはレビュー用にログに記録され、ブロックされたコンテンツは先に進みません。