AI API 成本从1000降到50

上个月朋友给我看他的AI API账单，我惊了——一个月跑了将近一万五千块。他是个独立开发者，做个小产品而已，问我是怎么回事，他说"就是正常调用ChatGPT接口能花多少"。

我让他把调用记录导出来一看，好家伙，每次对话都是几千token的上下文，模型选的也是最贵的4.5。关键是很多调用根本不需要那么长的上下文，他只是"怕不够"。

这不是个例。我最近帮几个团队做AI落地的技术咨询，发现90%的人在API调用上都在"花钱买心安"。今天就把我的优化方法整理出来，成本降下来真的不难。

第一个方法：上下文精简

很多人喜欢把整个对话历史都塞进上下文，觉得这样"AI记得更多"。但实际上：

1. 只保留最近3-5轮对话
2. 系统提示词单独抽取，不要重复放在用户消息里
3. 用"摘要"代替"原始对话"

具体怎么做？我之前写过一段摘要函数，简单分享：

function summarizeHistory(messages, keepLast = 5) {
  const recent = messages.slice(-keepLast);
  const older = messages.slice(0, -keepLast);
  
  if (older.length === 0) return recent;
  
  const olderSummary = `之前有${older.length}轮对话，主要讨论了：${extractTopics(older)}`;
  return [{role: 'system', content: olderSummary}, ...recent];
}

这个方法帮我一个项目的上下文长度平均减少了60%，成本直接砍半。

第二个方法：模型分级

不是所有场景都需要GPT-4。很多简单任务用3.5甚至更小的模型就够了，而且响应更快。

我的做法是：

• 判断类、分类类任务 → 用3.5或Claude Haiku
• 创意生成、复杂推理 → 用4o或Claude Sonnet
• 最终质量把关 → 用4.5

具体实现可以用一个简单的路由函数：

async function routeRequest(prompt, complexity) {
  const models = {
    low: 'gpt-3.5-turbo',
    medium: 'gpt-4o-mini', 
    high: 'gpt-4.5'
  };
  
  const model = models[complexity] || models.medium;
  return await callAI(prompt, model);
}

分级之后，我那个朋友把一半的简单调用换成了3.5，月账单从一万五降到五千。

第三个方法：缓存复用

这个很多人没想到——同样的输入，不用每次都调API。

思路很简单：

1. 第一次调用时，把输入hash一下，结果存起来
2. 后续同样的输入，直接从缓存取
3. 定期清理过期缓存

const cache = new Map();

async function cachedCall(prompt) {
  const hash = hashMD5(prompt);
  
  if (cache.has(hash)) {
    return cache.get(hash);
  }
  
  const result = await callAI(prompt);
  cache.set(hash, result);
  
  return result;
}

适用于哪些场景？FAQ问答、产品说明生成、固定格式的内容处理。我测试了一下，一个产品详情页生成的功能，用了缓存后API调用次数减少了70%。

写在最后

优化这三个月，我那个朋友现在每月 API 成本稳定在 800 块左右——从一万五到八百，95%的成本就这么省出来了。

核心就三点：少说话（精简上下文）、选对模型（分级调用）、少重复（缓存复用）。门槛不高，执行起来也不复杂，关键是开始关注这件事。

省钱不是目的，把省下来的资源用到更值得的地方，才是。