GPTCache:实现缓存来提高基于GPT的应用程序的效率和速度,以存储语言模型生成的响应。

是一个开源工具,旨在通过实现缓存来提高基于GPT的应用程序的效率和速度,以存储语言模型生成的响应。

https://github.com/zilliztech/GPTCache