社区讨论LinuxDo 最新
想问下各位佬怎么提高模型的速度
和其他佬拼车的Pro20X，通过SUB2连接到我的ccswitch，平常是通过CodeX桌面版使用，我发现一个问题：对话刚开始很快，但第一次compact还没有进行的时候，可能上下文达到一半左右，首字就开始变得很慢。平常首字大概有40秒 我让AI查了一下，它说这很正常。但我感觉，总不可能一次还没有压缩、上下文也没有很长的时候，首字就已经变得这么慢吧 想问一下各位大佬，怎么可以自查一下，或者解决一下这个问题？还是说这是正常现象
内容摘要
作者：#爱问的 hhh
板块：#搞七捻三
和其他佬拼车的Pro20X，通过SUB2连接到我的ccswitch，平常是通过CodeX桌面版使用，我发现一个问题：对话刚开始很快，但第一次compact还没有进行的时候，可能上下文达到一半左右，首字就开始变得很慢。平常首字大概有40秒
我让AI查了一下，它说这很正常。但我感觉，总不可能一次还没有压缩、上下文也没有很长的时候，首字就已经变得这么慢吧
想问一下各位大佬，怎么可以自查一下，或者解决一下这个问题？还是说这是正常现象
资讯来源
LinuxDo