博客
关于大模型 API、成本控制与多供应商接入的实用笔记。
2026-07-11
用提示词缓存砍掉 LLM API 成本:官方定价机制与实操写法
提示词缓存(prompt caching)的原理很简单:请求之间重复出现的提示词前缀,由模型服务商直接复用上次的计算结果,这部分 token 只按正常输入价的约 10% 计费——在 Anthropic 和 OpenAI 当前的模型上都是九折上下的让利,准确说是打一折。只要你的应用带着长系统提示、跑 Agent 循环,或者每次请求都塞进同一批检索文档,缓存几乎一定是降本最大的那一个开关。下面把缓存到底存了什么、两家官方的计价规则、CaMeL Hub 上缓存怎么算钱、以及怎么写提示词才能真正命中,逐一说清楚。
2026-07-11
一个 OpenAI 兼容端点调用 GPT、Claude、Gemini：兼容层是怎么做到的
把现有 OpenAI SDK 的 base_url 指向 https://api.camel-hub.com/v1，只改一个模型名字符串，就能用同一套代码调用 GPT、Claude、Gemini——不用为每家供应商维护单独的 SDK、鉴权方式或请求格式。这篇文章讲清楚 base_url 替换为什么能生效，给出可直接跑的 Python、Node.js、curl 示例，并说明跨模型可移植性真正会踩坑的两处：厂商原生端点和函数调用的 JSON 结构。
2026-07-11
OpenAI 兼容 API 401 与 429 报错排查:从鉴权到限流的完整思路
401 说明请求根本没通过鉴权——服务端在看到你要问什么之前,就已经把这把密钥毙掉了;429 正好相反,密钥本身是合法的,你是在限流或欠费这道门槛上被挡住的。这两类报错的排查路径完全不同,混着调只会白白浪费重试次数和时间。这篇文章按「先分类、再定位、后处理」的顺序讲清楚 401 和 429 的常见成因,附一段可以直接抄的 Python 指数退避代码,并说明 CaMeL Hub 在控制台建密钥、单令牌模型限制、余额不足报错这几处和其他网关不一样的地方。