コスト指標は、レスポンスにトークンデータとモデル名が含まれるエンドポイントでのみ利用できます。
AI Gateway を使うと、すべての AI プロバイダーでトークンベースのコストを監視・見積もりしやすくなります。次のことに役立ちます。
- プロバイダー間の利用コストを把握し、比較する。
- 一貫した指標で傾向を監視し、支出を見積もる。
- 交渉済みレートに合わせて、カスタムの料金ロジックを適用する。
AI Gateway では、特別な料金契約や交渉済みレートがある場合に、カスタムコストを設定できます。カスタムコストはリクエスト単位で適用でき、適用するとデフォルトまたは公開のモデルコストを上書きします。 カスタムコストの設定については、カスタムコスト の設定ページを参照してください。