社区讨论LinuxDo 最新
Silk-本地个人转发站【预热,还没开发完】
开业推广声明 (click for more details) 背景:因为本人手中会有多个中转站和免费的资源,但是由于这些资源的不稳定性,会导致每次发生点什么都要修改agent配置文件来换其他的LLM源。同时,我又使用了不同的agent,有些修改起来比较麻烦,所以促成了这个项目的诞生——做一个本地的个人中转站。 目标: 频繁换渠道上游通过本站处理,映射到一个本地的服务上,减少agent上需要修改的内容 支持一个渠道多个key的轮询,可以规避一些并发限制 支持自动协议转换(openai,messages,respo…
内容摘要
作者:#HanesW
板块:#开发调优
开业推广声明 (click for more details)
背景:因为本人手中会有多个中转站和免费的资源,但是由于这些资源的不稳定性,会导致每次发生点什么都要修改agent配置文件来换其他的LLM源。同时,我又使用了不同的agent,有些修改起来比较麻烦,所以促成了这个项目的诞生——做一个本地的个人中转站。
目标:
频繁换渠道上游通过本站处理,映射到一个本地的服务上,减少agent上需要修改的内容
支持一个渠道多个key的轮询,可以规避一些并发限制
支持自动协议转换(openai,messages,responses)
支持模型映射,可以将不同上游渠道的模型映射成一个
支持agent的配置一键切换
后面可能会增加一些省token的功能
github.com
GitHub - morning-start/silk: 一个本地端点,三大协议任意互转
一个本地端点,三大协议任意互转
目前已经 1.0.0 版本,使用没有太大问题了。
资讯来源
LinuxDo