高级 API 用法

提示缓存

当连续的请求共享相同的起始消息时，xAI API 会自动缓存它们。在下一个请求中，完全匹配的起始消息将从缓存中提供：

• 更快的首令牌时间 — 模型会跳过对已缓存消息的重新计算
• 更低成本 — 缓存的令牌以较低费率计费

NOTE

xAI API 自动执行提示缓存。但是，我们建议设置 x-grok-conv-id HTTP 头部以最大化您的缓存命中率。

本节内容

• 工作原理 — 了解缓存如何从您的消息数组开始工作
• 最大化缓存命中 — 设置 x-grok-conv-id 和 prompt_cache_key 以实现最佳缓存
• 导致缓存失效的因素 — 导致缓存未命中的常见错误
• 使用与定价 — 查看缓存令牌计数并了解计费
• 最佳实践与常见问题 — 提示、支持的模型和常见问题