Cohere ↗ は、実際のビジネス課題を解決するための AI モデルを開発しています。
https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohereCohere ↗ へリクエストを送るときは、いま使っている URL の https://api.cohere.ai/v1 を https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere に置き換えます。
Cohere へリクエストを送るときは、次を用意してください。
- AI Gateway のアカウント ID
- AI Gateway のゲートウェイ名
- 有効な Cohere API トークン
- 使う Cohere モデルの名前
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere/v1/chat \
--header 'Authorization: Token {cohere_api_token}' \
--header 'Content-Type: application/json' \
--data '{
"chat_history": [
{"role": "USER", "message": "Who discovered gravity?"},
{"role": "CHATBOT", "message": "The man who is widely credited with discovering gravity is Sir Isaac Newton"}
],
"message": "What year was he born?",
"connectors": [{"id": "web-search"}]
}'cohere-python-sdk ↗ を使う場合は、エンドポイントを次のように設定します。
import cohere
import os
api_key = os.getenv('API_KEY')
account_id = '{account_id}'
gateway_id = '{gateway_id}'
base_url = f"https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere/v1"
co = cohere.Client(
api_key=api_key,
base_url=base_url,
)
message = "hello world!"
model = "command-r-plus"
chat = co.chat(
message=message,
model=model
)
print(chat)REST API 経由で、OpenAI API スキーマを使って Cohere モデルにもアクセスできます。リクエストの送信先は次のとおりです。
https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1/chat/completions次を指定します。
{
"model": "cohere/{model}"
}