zilliztech/GPTCache

LLM语义缓存库,通过相似查询复用降低API成本与延迟

APISDKGPT

访问 zilliztech/GPTCache 官网 →

分类
AI 基础设施
官方网址
https://github.com/zilliztech/GPTCache
最近更新
Wed Apr 08
标签
API · SDK · GPT