Workers バインディング

Workers は、新しいアプリケーションの作成や既存アプリケーションの拡張ができるサーバーレス実行環境です。

Workers で Workers AI を使うには、Workers AI の バインディング を作成する必要があります。バインディングを使うと、Worker から Cloudflare Developer Platform 上のリソース（Workers AI など）と連携できます。バインディングは、Cloudflare ダッシュボード、または Wrangler ファイル の更新で作成します。

Worker に Workers AI をバインドするには、Wrangler ファイルの末尾に次を追加します。

{
	"ai": {
		"binding": "AI" // i.e. available in your Worker on env.AI
	}
}

[ai]
binding = "AI"

Pages Functions を使うと、Cloudflare ネットワーク上でコードを実行し、Cloudflare Pages でフルスタックアプリケーションを構築できます。Functions の実体は Workers です。

Pages Function で Workers AI バインディングを設定するには、Cloudflare ダッシュボードを使います。手順は Workers AI バインディング を参照してください。

async env.AI.run() はモデルを実行します。第 1 引数にモデル、第 2 引数にオブジェクトを指定します。

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'"
});

パラメーター

• model string 必須

  • 実行するモデルです。

  対応オプション

  • stream boolean 任意
    • 結果が揃い次第、ストリームで返します。

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'",
    stream: true
});

return new Response(answer, {
    headers: { "content-type": "text/event-stream" }
});