社区讨论LinuxDo 最新
如何优雅的管理dsh和pi中第三方供应商的模型配置
pi和dsh的大模型调用都是依赖于pi-ai模块,所以这俩配置第三方供应商的模型方法是一样的。 我的问题是,有没有比较自动化的方法为pi和dsh添加模型,涉及到模型的上下文长度、尤其是 compat里面的参数,阻止我用这俩工具最大的阻碍就是添加模型太麻烦。 cc-switch能添加模型ID,但是没办法直接补全其他参数。
内容摘要
作者:#LastHuman
板块:#开发调优
pi和dsh的大模型调用都是依赖于pi-ai模块,所以这俩配置第三方供应商的模型方法是一样的。
我的问题是,有没有比较自动化的方法为pi和dsh添加模型,涉及到模型的上下文长度、尤其是 compat里面的参数,阻止我用这俩工具最大的阻碍就是添加模型太麻烦。
cc-switch能添加模型ID,但是没办法直接补全其他参数。
资讯来源
LinuxDo