GCP第二代Cloud Functions外部API调用性能问题排查求助

环境信息 #

• 平台：GCP Cloud Functions (2nd Gen)
• 运行时：Node.js 20
• 资源配置：已尝试提升内存与CPU分配，但无改善
• 外部API调用时长：100ms至3000ms不等，偶尔达20-30秒

问题详情 #

原本预期依托GCP数据中心，API调用应快速稳定，但实际响应时间波动极大：

• 网络延迟：调用某公开API的响应时间极不稳定，从毫秒级到数秒都有。
• 代码结构：脚本逻辑简单，无复杂逻辑或阻塞操作导致延迟。
• 资源管理：已尝试增加内存和CPU分配，但未解决延迟问题。
• 观测结果：延迟峰值无固定规律，随机出现。

示例代码 #

export const runTest = async (req: Request, res: Response) => {
  res.status(200).send({})

  const scheduledTask = req.body as ScheduledTask

  const runner = new ScheduledTaskRunner()
  await runner.run(scheduledTask)

  for (let i = 0; i < 4; i++) {
    await pingWithAxios()
    await pingWithFetch()
    await pingWithKy()
  }

  console.log('done')
}

export async function pingWithFetch() {
  const start = Date.now()
  await fetch('https://api-prod.reapi.com/ping').then((response) => {
    const end = Date.now()
    console.log('fetch ping response:', response.status, 'time:', end - start, 'ms')
  })
}

export async function pingWithKy() {
  const start = Date.now()
  await ky.get('https://api-prod.reapi.com/ping').then((response) => {
    const end = Date.now()
    console.log('ky ping response:', response.status, 'time:', end - start, 'ms')
  })
}

export async function pingWithAxios() {
  const start = Date.now()
  await axios.get('https://api-prod.reapi.com/ping').then((response) => {
    const end = Date.now()
    console.log('axios ping response:', response.status, 'time:', end - start, 'ms')
  })
}

观测截图 #

疑问 #

• GCP内部是否存在可能导致此类波动的网络配置设置？
• 从GCP Cloud Functions调用外部API有哪些优化最佳实践？

诊断与优化建议 #

一、GCP内部网络相关排查点

1. 网络出口策略：检查Cloud Functions是否配置了VPC连接器或云NAT。如果使用VPC连接器，确认NAT的端口分配是否充足——端口耗尽会导致新连接排队，引发延迟波动。另外，VPC连接器的区域是否与外部API的接入点区域匹配，跨区域访问会增加基础延迟。
2. DNS解析延迟：GCP内部DNS偶尔会出现解析波动，可尝试在代码中手动指定外部API的IP（通过nslookup或dig获取），绕过DNS解析验证是否为DNS问题。或者配置自定义DNS服务器，比如使用Cloud DNS的公共解析服务。
3. 带宽限制：虽然Cloud Functions没有明确的带宽上限，但同一区域的资源竞争可能导致临时带宽不足。可以通过Cloud Monitoring监控network/outbound_bytes_count指标，查看是否有带宽突增与延迟峰值对应。
4. 防火墙与安全规则：检查VPC防火墙、Cloud Armor是否对出口流量有额外的检查规则，部分规则的深度包检测可能导致随机延迟。临时放宽规则测试是否缓解问题（注意安全风险）。

二、外部API调用优化最佳实践

1. 并发调用替代串行：当前代码中pingWithAxios()、pingWithFetch()、pingWithKy()是串行执行，可改为并行调用减少总耗时：

// 替换原for循环内的串行调用
await Promise.all([pingWithAxios(), pingWithFetch(), pingWithKy()])

2. 连接复用：Node.js的HTTP客户端默认会复用连接，但需确保客户端配置了合理的连接池。比如Axios可以设置maxRedirects和timeout，同时启用keepAlive：

const axiosInstance = axios.create({
  timeout: 5000,
  httpAgent: new http.Agent({ keepAlive: true }),
  httpsAgent: new https.Agent({ keepAlive: true })
})

Ky和Fetch也需要显式配置连接复用，Ky默认支持，Fetch在Node.js 20+中需通过agent选项设置。
3. 添加超时与重试机制：针对外部API的不稳定，添加超时限制和指数退避重试，避免长时间等待无响应的请求：

import { retry } from 'p-retry'

export async function pingWithAxios() {
  const start = Date.now()
  await retry(async () => {
    const response = await axiosInstance.get('https://api-prod.reapi.com/ping', { timeout: 3000 })
    const end = Date.now()
    console.log('axios ping response:', response.status, 'time:', end - start, 'ms')
  }, {
    retries: 2,
    factor: 2,
    minTimeout: 100
  })
}

4. 缓存频繁请求结果：如果外部API的响应数据不频繁更新，可使用GCP Memorystore（Redis）或Cloud Functions的内存缓存（注意冷启动问题）缓存响应，减少重复调用。
5. 选择就近区域部署：将Cloud Functions部署在与外部API接入点地理距离最近的GCP区域，降低网络传输延迟。
6. 监控与链路追踪：启用Cloud Trace和Cloud Monitoring，追踪每个API调用的完整链路，定位延迟发生在DNS解析、TCP握手、数据传输哪个阶段。同时监控外部API的SLA，确认延迟是否由API服务端导致。

内容的提问来源于stack exchange，提问作者PeiSong