大模型 API Key 怎么安全管理？前端能直接调用模型 API 吗？

浏览器 ──（登录态）──► 自己的后端 /api/chat ──（API Key）──► 模型服务
                       ├─ 鉴权：必须登录，识别是谁在调用
                       ├─ 限流：每个用户每分钟最多 N 次，同时最多 M 个请求
                       ├─ 配额：每天、每月的 token 或费用上限
                       ├─ 参数白名单：模型、max_tokens、消息格式由后端决定
                       └─ 记录用量：按用户统计，异常消耗告警

import express from 'express'
import Redis from 'ioredis'

const app = express()
const redis = new Redis(process.env.REDIS_URL)

// 前端只能传别名，真实的模型名由后端决定（这里的模型名是示意）
const MODELS = new Map([
  ['fast', 'provider-small-model'],
  ['smart', 'provider-large-model'],
])
const DAILY_TOKENS = 200_000

app.post('/api/chat', requireUser, express.json({ limit: '200kb' }), async (req, res) => {
  const userId = req.user.id

  // 1. 限流：每个用户每分钟最多 10 次（固定窗口）
  const rateKey = `rate:chat:${userId}:${Math.floor(Date.now() / 60_000)}`
  const [[, count]] = await redis.multi().incr(rateKey).expire(rateKey, 60).exec()
  if (count > 10) return res.status(429).json({ error: '请求太频繁，请稍后再试' })

  // 2. 配额：每天的 token 用量（按 UTC 日期）
  const quotaKey = `quota:chat:${userId}:${new Date().toISOString().slice(0, 10)}`
  if (Number(await redis.get(quotaKey)) >= DAILY_TOKENS) {
    return res.status(429).json({ error: '今天的额度已用完' })
  }

  // 3. 参数白名单：只接受 user 和 assistant 消息，system 消息由后端添加
  const { messages, model = 'fast' } = req.body ?? {} // Express 5 里没有请求体时 req.body 是 undefined
  const valid =
    MODELS.has(model) &&
    Array.isArray(messages) &&
    messages.length <= 40 &&
    messages.every((m) => ['user', 'assistant'].includes(m?.role) && typeof m.content === 'string')
  if (!valid) return res.status(400).json({ error: '参数不合法' })

  const upstream = await fetch(`${process.env.LLM_BASE_URL}/chat/completions`, {
    method: 'POST',
    headers: {
      'Content-Type': 'application/json',
      Authorization: `Bearer ${process.env.LLM_API_KEY}`, // Key 只存在于服务端
    },
    body: JSON.stringify({
      model: MODELS.get(model),
      messages: [{ role: 'system', content: SYSTEM_PROMPT }, ...messages],
      max_tokens: 1024, // 输出上限也由后端决定
    }),
    signal: AbortSignal.timeout(60_000),
  })
  // 不把上游的错误详情原样返回给前端
  if (!upstream.ok) return res.status(502).json({ error: 'AI 服务暂时不可用' })

  const data = await upstream.json()
  await redis.multi().incrby(quotaKey, data.usage?.total_tokens ?? 0).expire(quotaKey, 2 * 86_400).exec()
  res.json({ content: data.choices[0].message.content })
})