多轮对话的上下文怎么管理？

interface Msg {
  role: 'user' | 'assistant' | 'tool' // 有的 SDK 把工具结果放在 user 消息里，分组时按实际结构判断
  content: string
}

interface Conversation {
  history: Msg[] // 完整历史（已包含本轮的用户消息），存数据库，用于展示
  summary: string // 早期对话的摘要
  summarizedCount: number // history 中已经并入摘要的消息条数
}

const RECENT_BUDGET = 8000 // 最近几轮原文的 token 预算（假设值）

// 按"轮"分组：一条用户消息，加上之后的助手回复、工具调用和工具结果
function groupByTurn(messages: Msg[]): Msg[][] {
  const turns: Msg[][] = []
  for (const m of messages) {
    if (m.role === 'user' || turns.length === 0) turns.push([m])
    else turns[turns.length - 1].push(m)
  }
  return turns
}

async function buildContext(conv: Conversation, system: string) {
  const turns = groupByTurn(conv.history.slice(conv.summarizedCount))
  const cost = (turn: Msg[]) => turn.reduce((sum, m) => sum + countTokens(m.content), 0)

  // 从最新一轮往前保留，超出预算就停下（最新一轮无论多长都保留）
  let keepFrom = turns.length - 1
  let used = cost(turns[keepFrom])
  while (keepFrom > 0 && used + cost(turns[keepFrom - 1]) <= RECENT_BUDGET) {
    keepFrom--
    used += cost(turns[keepFrom])
  }

  // 被挤出窗口的轮次并入摘要（为了简单这里同步执行，生产中可以在回复用户之后异步更新）
  const evicted = turns.slice(0, keepFrom).flat()
  if (evicted.length > 0) {
    conv.summary = await summarize(conv.summary, evicted)
    conv.summarizedCount += evicted.length
  }

  const summaryBlock = conv.summary ? `\n\n<earlier_conversation_summary>\n${conv.summary}\n</earlier_conversation_summary>` : ''
  return [{ role: 'system', content: system + summaryBlock }, ...turns.slice(keepFrom).flat()]
}

async function summarize(previous: string, messages: Msg[]) {
  const transcript = messages.map((m) => `${m.role}: ${m.content}`).join('\n')
  const res = await llm.chat({
    messages: [
      {
        role: 'user',
        content: `更新对话摘要。保留用户的目标和约束、已确认的事实（名称、数字、决定）和未解决的问题，不要添加对话中没有的信息。\n\n<previous_summary>\n${previous}\n</previous_summary>\n\n<new_messages>\n${transcript}\n</new_messages>`,
      },
    ],
  })
  return res.content
}