deepseek吧 关注:84,828贴子:129,118
  • 1回复贴,共1
求助

有没有能够降低api的tokens消耗的办法啊

只看楼主收藏回复

长对话消耗实在太大了,我知道有缓存命中的机制,但是好像现在也用不了,不知道怎么用


IP属地:江苏来自Android客户端1楼2025-02-13 09:26回复
    只有官方的api有,其他第三方没有缓存命中,你可以让他总结上一轮对话来减小上下文


    IP属地:福建来自iPhone客户端2楼2025-02-13 09:54
    回复