Prefix Caching
也称 Automatic Prefix Caching / APC
复用请求开头相同部分的计算状态，减少重复处理共享提示前缀的工作；常见实现复用对应的键值缓存。
如何理解
多个请求如果使用相同模型和相同前缀，服务可以在缓存匹配时跳过这部分计算。共享系统指令或长文档前缀，是典型的复用机会。
缓存匹配依赖具体实现，并不只是判断两段文字意思是否接近。模型、词元序列和缓存有效性等条件发生变化时，可能无法命中。
容易混淆的地方
前缀缓存不是答案缓存。它主要减少重复的输入处理，不能直接省去新答案的逐步生成。