CFCF Static Export ProDOCS
首页/Cloudflare 文档/Cloudflare AI Gateway 中文文档

Cloudflare AI Gateway 中文文档

参照官方手册结构整理(数据截至 2026-10,配额/价格以官方最新页面为准)。技术术语保留英文原词。


1. 概述

Cloudflare AI Gateway 是对所有 AI 请求(无论调用 Workers AI 还是 OpenAI、Anthropic、Google 等第三方模型)的统一网关层:在一行代码接入后,即可获得可观测性(分析、日志)与流量控制(缓存、限流、重试、模型回退)能力。

一句话定位:给任意 AI 调用叠加的「统一网关」——可观测、可缓存、可限流、可回退。

所有套餐(Free / Paid)均可用。


2. 核心概念

  • 统一接入(One line of code):把请求路由到 AI Gateway,由网关转发到目标 provider,无需改动业务逻辑。
  • Analytics(分析):查看请求数、tokens、成本等指标。
  • Logging(日志):记录请求与错误,用于审计与排查。
  • Caching(缓存):命中缓存时直接由 Cloudflare 边缘返回,不再回源到模型 provider,更快也更省成本。
  • Rate limiting(限流):限制应用可发出的请求速率/规模,控制成本。
  • Request retry & fallback(重试与回退 / Dynamic Routing):出错时自动重试,或回退到备用模型。
  • Providers(提供商):Workers AI、Anthropic、Google Gemini、OpenAI、Replicate 等均可接入。

3. 架构与工作原理

应用把推理请求发往 AI Gateway 端点,网关在边缘完成:记录日志 → 命中缓存则返回 → 否则限流校验 → 转发到 provider → 可选重试/回退 → 返回结果。所有逻辑发生在 Cloudflare 全球网络,无需自建代理服务。


4. 快速开始

通过网关参数即可把一次 Workers AI 调用路由到账户默认网关(网关不存在时首次请求自动创建,默认使用 Standard billing):

const res = await env.AI.run(
  "@cf/meta/llama-3.1-8b-instruct",
  { prompt: "你好" },
  { gateway: { id: "default", skipCache: false } } // 路由到 AI Gateway
);

对外接 provider,则直接把请求 URL 换成网关提供的 provider 端点,或在 SDK 里配置 gateway 参数,一行代码即可接入。


5. 配额与限制

限制项 Workers Free Workers Paid
核心功能(分析 / 缓存 / 限流) 免费 免费
日志存储(Legacy Logs) 所有网关合计 100,000 条 每网关 10,000,000 条
DLP 扫描 免费(两预置 profile) 免费(含 Zero Trust 全部 profile)
Logpush 导出 按 Logpush 计费 按 Logpush 计费
  • 2026-09-24 之后创建首个网关的账户,日志存储在 Workers Logs(遵循 Workers Logs 的定价与保留策略);更早的账户使用 Legacy Logs(上表)。
  • Guardrails(护栏):基于 Workers AI 的 @cf/meta/llama-guard-3-8b 评估提示词与回复,按 Workers AI 的 token 推理计费。

6. 定价

计费项 价格
核心功能(分析 / 缓存 / 限流) 全套餐免费
DLP 扫描 全套餐免费
日志(Legacy Logs) Free 10 万条 / Paid 每网关 1000 万条(受存储上限约束)
Guardrails 按 Workers AI token 推理计费
Unified Billing(统一计费) 购券加收 5% 手续费;provider 推理价格原样透传,无加价
Logpush 按 Logpush 日志量计费

关键点:AI Gateway 本身不按请求数收费,核心能力全免费;真正产生费用的是「日志存储上限」与「被调用的模型推理(Workers AI 或其他 provider)」。


7. 最佳实践

  • 所有 AI 调用都走网关:免费获得缓存、限流、日志、回退,几乎零成本换取可观测性。
  • 对高重复、低变化的请求(如固定 system prompt 的摘要)开启缓存,显著降低 provider 成本与延迟。
  • 配置模型回退(fallback),避免单 provider 抖动导致服务不可用。
  • 用限流保护预算,防止失控的调用量。

8. 适用场景与选型

  • 只要应用调用任何 LLM / 多模态模型,AI Gateway 都是「无脑接入」的标配。
  • 与 Workers AI + Vectorize 组合可构建完整 RAG / 语义搜索;与 Queues 组合可做异步推理。
  • 若只需在 Cloudflare 内跑开源模型,直接用 Workers AI;若还要统一管控第三方模型调用、做成本/限流治理,则叠加 AI Gateway。