工具太多时，怎么让模型还能选对？

type ToolDef = { name: string; description: string; parameters: object }
type IndexedTool = { tool: ToolDef; vec: number[] }

function cosine(a: number[], b: number[]) {
  let dot = 0
  let na = 0
  let nb = 0
  for (let i = 0; i < a.length; i++) {
    dot += a[i] * b[i]
    na += a[i] * a[i]
    nb += b[i] * b[i]
  }
  return dot / (Math.sqrt(na) * Math.sqrt(nb))
}

// 离线：为每个工具的名称和描述生成向量，工具列表变化时重建
async function buildToolIndex(tools: ToolDef[]): Promise<IndexedTool[]> {
  return Promise.all(tools.map(async (tool) => ({ tool, vec: await embed(`${tool.name}：${tool.description}`) })))
}

// 在线：已加载的工具保持原样，只在后面追加与问题最相关、还没加载的工具
// current 第一次传始终提供的核心工具 CORE_TOOLS，开启新会话时再重置
async function selectTools(index: IndexedTool[], query: string, current: ToolDef[], k = 8) {
  const q = await embed(query) // 多轮对话时，query 可以用最近几轮用户消息拼接
  const loaded = new Set(current.map((t) => t.name))
  const added = index
    .map(({ tool, vec }) => ({ tool, score: cosine(q, vec) }))
    .sort((a, b) => b.score - a.score)
    .slice(0, k)
    .map((r) => r.tool)
    .filter((t) => !loaded.has(t.name))
  // 只追加，不删除也不重排：变动只发生在列表末尾，之前的前缀仍能命中缓存，用过的工具也不会消失
  return [...current, ...added]
}