参照官方手册结构整理(数据截至 2026-10,配额/价格以官方最新页面为准)。技术术语保留英文原词。
1. 概述
Workers AI 让你以无服务器方式运行机器学习模型——由 Cloudflare 全球网络上的 GPU 驱动,无需管理/付费闲置的 GPU 基础设施。提供 50+ 开源模型目录,按需付费。
一句话定位:Serverless GPU 推理,50+ 开源模型随取随用。
Free 与 Paid 计划均可用,现已 GA。
2. 核心概念
- 模型目录:涵盖文本生成、嵌入(embeddings)、图像生成/分类、目标检测、语音识别、翻译等任务。
- Bindings:在 Worker 里通过
env.AI.run(model, inputs)调用。 - Neurons(神经元)计费单位:衡量一次推理所需 GPU 算力,后端以此计费。
- 与 Vectorize 联动:用 Workers AI 生成 embedding,存入 Vectorize 做语义检索/RAG。
- AI Gateway:可缓存、限流、重试、模型回退,统一观测 AI 应用。
3. 架构与工作原理
模型运行在 Cloudflare 全球 GPU 上,从 Worker/Pages/任意 HTTP(Cloudflare API)调用。推理按用量计费,无闲置成本。
4. 快速开始
wrangler.jsonc 绑定 AI:
{ "ai": { "binding": "AI" } }
export default {
async fetch(request: Request, env: Env): Promise<Response> {
const result = await env.AI.run("@cf/meta/llama-3.2-1b-instruct", {
prompt: "用一句话介绍 Cloudflare。",
});
return Response.json(result);
},
} satisfies ExportedHandler<Env>;
5. 配额与限制(按任务类型的速率,每分钟)
| 任务类型 | 默认限制(请求/分钟) |
|---|---|
| 文本生成(Text Generation) | 300(付费模型另有限制) |
| 文本嵌入(Text Embeddings) | 3,000 |
| 摘要(Summarization) | 1,500 |
| 文本分类 | 2,000 |
| 图像分类 / 目标检测 | 3,000 |
| 语音识别 / 图像理解 / 翻译 / 文生图 | 720 |
- 付费前沿模型(需 Workers Paid 或 AI Gateway 预付额度):标准计费 20 请求/分钟;加载预付额度并设 Unified billing 后 50 请求/分钟。
- Beta 模型速率可能更低。免费日限额超限后操作失败。
6. 定价
- 以 Neurons 计费:$0.011 / 1,000 Neurons。
- 免费额度:10,000 Neurons / 天(Workers Free 与 Paid 均含)。超出免费额需 Workers Paid,按 $0.011 / 1,000 Neurons 计费。
- 部分前沿模型(如
@cf/deepseek-ai/deepseek-v4-*、@cf/zai-org/glm-5.*、@cf/moonshotai/kimi-*)需付费计费方式。 - 可用 AI Gateway 预付额度支付并获更高速率。
示例模型(每百万输出 token 的 Neurons 近似):llama-3.2-1b ~18,252;llama-3.3-70b ~204,805;嵌入 bge-large ~18,582;flux-1-schnell 每张 512×512 tile 4.80。具体以官方模型定价页为准。
7. 最佳实践
- 文本生成速率较紧(300/分钟),批量/agent 场景考虑付费模型 + AI Gateway 额度。
- 用
max_tokens控制输出长度以控成本。 - 语义检索场景:Workers AI 生成 embedding → Vectorize 存储/查询 → R2/D1 取原文,全在平台内完成。
8. 适用场景与选型
- 文本生成、摘要、翻译、嵌入、图像生成、语音识别等 AI 能力。
- 需要向量检索/RAG → 配合 Vectorize;需要观测/限流/缓存 → 配合 AI Gateway。