参照官方手册结构整理(数据截至 2026-10,配额/价格以官方最新页面为准)。技术术语保留英文原词。
1. 概述
Cloudflare AI Gateway 是对所有 AI 请求(无论调用 Workers AI 还是 OpenAI、Anthropic、Google 等第三方模型)的统一网关层:在一行代码接入后,即可获得可观测性(分析、日志)与流量控制(缓存、限流、重试、模型回退)能力。
一句话定位:给任意 AI 调用叠加的「统一网关」——可观测、可缓存、可限流、可回退。
所有套餐(Free / Paid)均可用。
2. 核心概念
- 统一接入(One line of code):把请求路由到 AI Gateway,由网关转发到目标 provider,无需改动业务逻辑。
- Analytics(分析):查看请求数、tokens、成本等指标。
- Logging(日志):记录请求与错误,用于审计与排查。
- Caching(缓存):命中缓存时直接由 Cloudflare 边缘返回,不再回源到模型 provider,更快也更省成本。
- Rate limiting(限流):限制应用可发出的请求速率/规模,控制成本。
- Request retry & fallback(重试与回退 / Dynamic Routing):出错时自动重试,或回退到备用模型。
- Providers(提供商):Workers AI、Anthropic、Google Gemini、OpenAI、Replicate 等均可接入。
3. 架构与工作原理
应用把推理请求发往 AI Gateway 端点,网关在边缘完成:记录日志 → 命中缓存则返回 → 否则限流校验 → 转发到 provider → 可选重试/回退 → 返回结果。所有逻辑发生在 Cloudflare 全球网络,无需自建代理服务。
4. 快速开始
通过网关参数即可把一次 Workers AI 调用路由到账户默认网关(网关不存在时首次请求自动创建,默认使用 Standard billing):
const res = await env.AI.run(
"@cf/meta/llama-3.1-8b-instruct",
{ prompt: "你好" },
{ gateway: { id: "default", skipCache: false } } // 路由到 AI Gateway
);
对外接 provider,则直接把请求 URL 换成网关提供的 provider 端点,或在 SDK 里配置 gateway 参数,一行代码即可接入。
5. 配额与限制
| 限制项 | Workers Free | Workers Paid |
|---|---|---|
| 核心功能(分析 / 缓存 / 限流) | 免费 | 免费 |
| 日志存储(Legacy Logs) | 所有网关合计 100,000 条 | 每网关 10,000,000 条 |
| DLP 扫描 | 免费(两预置 profile) | 免费(含 Zero Trust 全部 profile) |
| Logpush 导出 | 按 Logpush 计费 | 按 Logpush 计费 |
- 2026-09-24 之后创建首个网关的账户,日志存储在 Workers Logs(遵循 Workers Logs 的定价与保留策略);更早的账户使用 Legacy Logs(上表)。
- Guardrails(护栏):基于 Workers AI 的
@cf/meta/llama-guard-3-8b评估提示词与回复,按 Workers AI 的 token 推理计费。
6. 定价
| 计费项 | 价格 |
|---|---|
| 核心功能(分析 / 缓存 / 限流) | 全套餐免费 |
| DLP 扫描 | 全套餐免费 |
| 日志(Legacy Logs) | Free 10 万条 / Paid 每网关 1000 万条(受存储上限约束) |
| Guardrails | 按 Workers AI token 推理计费 |
| Unified Billing(统一计费) | 购券加收 5% 手续费;provider 推理价格原样透传,无加价 |
| Logpush | 按 Logpush 日志量计费 |
关键点:AI Gateway 本身不按请求数收费,核心能力全免费;真正产生费用的是「日志存储上限」与「被调用的模型推理(Workers AI 或其他 provider)」。
7. 最佳实践
- 所有 AI 调用都走网关:免费获得缓存、限流、日志、回退,几乎零成本换取可观测性。
- 对高重复、低变化的请求(如固定 system prompt 的摘要)开启缓存,显著降低 provider 成本与延迟。
- 配置模型回退(fallback),避免单 provider 抖动导致服务不可用。
- 用限流保护预算,防止失控的调用量。
8. 适用场景与选型
- 只要应用调用任何 LLM / 多模态模型,AI Gateway 都是「无脑接入」的标配。
- 与 Workers AI + Vectorize 组合可构建完整 RAG / 语义搜索;与 Queues 组合可做异步推理。
- 若只需在 Cloudflare 内跑开源模型,直接用 Workers AI;若还要统一管控第三方模型调用、做成本/限流治理,则叠加 AI Gateway。