用 Vercel AI Gateway 给博客做一个 AI 摘要服务

其实我对 AI 总结功能的有无一直是无所谓的态度，但既然可以免费做一个，那就顺手实现一下。我之前一直用的是 Mabbs 大佬的 AI 摘要项目，不过项目是部署在 Cloudflare 上的，我花了一下午才部署完。然后又因为 Cloudflare 在国内被墙，加上我在 CF 上没有托管域名，只好又搞了个 Vercel 反代，这才实现了 AI 摘要的效果。

那 Vercel 有没有可能部署个类似的项目呢？

折腾了几天，答案是完全可以。最终做出来的是 Vercel Functions + AI Gateway + Neon Postgres 的组合，项目开源在 Keduoli03/vercel-ai-summary。这篇就当是项目分享吧。

最终架构

请求链路不复杂：

Astro 博客
    │
    │ POST /api/summary
    ▼
Vercel Function
    ├── Neon Postgres：查询或保存摘要缓存
    └── AI Gateway：调用 Qwen 生成摘要

博客端只提交文章 ID 和正文，剩下的缓存判断、模型调用、错误处理全在服务端。这样有几个好处：

前端不保存任何模型密钥
换模型不用动博客代码
文章没变就直接返回缓存，不白花钱
文章更新了会自动重新生成
模型用量和费用可以在 Vercel 里统一看

为什么选 AI Gateway

Vercel AI Gateway 相当于一个统一的模型入口，用 AI SDK 的话，只要写一个 provider/model 格式的模型名就能切换供应商。项目默认用的是：

alibaba/qwen3.7-flash

这个模型很便宜，给博客生成摘要绰绰有余。以后想换，改个 AI_MODEL 环境变量就行，不用动请求逻辑。

鉴权这块用的是 Vercel 的 OIDC Token，部署的时候自动注入、自动轮换，仓库里根本不用存 AI_GATEWAY_API_KEY：

import { gateway, generateText } from 'ai'

const result = await generateText({
  model: gateway('alibaba/qwen3.7-flash'),
  instructions: SYSTEM_PROMPT,
  prompt: articleContent,
  maxOutputTokens: 600,
  temperature: 0.2,
})

用 Neon 做缓存

每次打开文章都重新调模型的话，又慢又费额度。所以服务端会对这三样东西算一个 SHA-256：

提示词版本
当前模型
文章正文

const contentHash = createHash('sha256')
  .update(`${PROMPT_VERSION}\0${model}\0${content}`)
  .digest('hex')

数据库里已有相同 id 和 content_hash 就直接返回旧摘要，否则生成新的并 upsert。所以缓存不是只认文章 ID——正文、模型、提示词任何一个变了，哈希就变，自然就会重新生成，不会一直给你看旧摘要。

顺便把每次生成的 Token 用量、模型、提示词版本、耗时、时间都记了下来，方便对账。

Neon 是通过 Vercel Marketplace 接的，部署完自动就有 DATABASE_URL。数据库和 Function 都放在新加坡，避免请求绕来绕去。

API 设计

两个接口：

查缓存（不调模型）：

GET /api/summary?id=/posts/example

生成或更新摘要：

POST /api/summary
Content-Type: application/json

{
  "id": "/posts/example",
  "content": "文章正文"
}

POST 也不一定真的调用 AI，服务端会先算哈希，命中缓存就直接返回。所以博客端永远提交最新正文就行。

成功响应长这样：

{
  "code": 1,
  "message": "生成文章摘要成功",
  "data": "这里是生成的摘要",
  "isSave": true,
  "model": "alibaba/qwen3.7-flash"
}

博客怎么接入

原来那套 Cloudflare 实现要依次做哈希检查、上传文章、查缓存、读 SSE 流。换成这个之后，一次 POST 就完事：

const response = await fetch('https://summary.blueke.top/api/summary', {
  method: 'POST',
  headers: { 'Content-Type': 'application/json' },
  body: JSON.stringify({
    id: slug,
    content: `标题: ${title}\n\n${body}`,
  }),
  signal: controller.signal,
})

const result = await response.json()
outputEl.textContent = result.data

服务端配好了 CORS，博客和接口不在同一个域名也能调。客户端设了 65 秒超时，出错时优先显示服务端返回的错误信息。

文章要不要显示 AI 摘要，由 frontmatter 里的 aiSummary: true 控制，没开的文章根本不会发请求。

费用保护

Vercel AI Gateway 免费层给每个团队每月 $5 额度，不过得先绑一张有效银行卡才能解锁——绑卡不等于购买额度，记得把 Auto top-up 关掉。

我给线上项目设了硬预算，每月 $4，留 $1 余量：

vercel ai-gateway budgets set project vercel-cf-summary \
  --limit 4 \
  --refresh-period monthly

达到上限后 Gateway 会拒绝新的付费调用，但数据库里已有的缓存还能继续读。

安全方面

仓库里没有任何真实凭据，线上靠 OIDC 短期 Token 调模型
系统提示词里明确要求忽略正文中的注入指令，防止有人通过文章内容诱导模型
ALLOWED_ORIGIN 可以限定允许调用 API 的来源
单篇正文限制 60,000 字符
根路径只返回一个只读 JSON 健康状态，不给测试表单

需要说明的是，这个项目定位是公开演示，没有做登录和按用户限流。预算只是防止超额扣费，代替不了真正的防滥用措施，真要拿来当正式服务的话，还得自己加认证和限流。

最后

折腾下来感觉，原本 Cloudflare Workers AI + D1 的方案在 Vercel 生态里确实能找到完整对应：

Cloudflare 方案	Vercel 方案
Workers	Vercel Functions
Workers AI	AI Gateway
D1	Neon Postgres

和之前 CF 那套的折腾相比，Vercel 这套上手确实没什么门槛：AI SDK 写起来顺手，OIDC 免去了密钥管理，模型切换和部署体验都挺完整。以后想换模型或者调提示词，博客端一行都不用动。

如果你也想给博客加个 AI 摘要，可以直接去仓库里看看，Fork 之后按 README 的步骤部署就行。