返回 AI 资讯
社区讨论LinuxDo 最新

Silk-本地个人转发站【预热,还没开发完】

开业推广声明 (click for more details) 背景:因为本人手中会有多个中转站和免费的资源,但是由于这些资源的不稳定性,会导致每次发生点什么都要修改agent配置文件来换其他的LLM源。同时,我又使用了不同的agent,有些修改起来比较麻烦,所以促成了这个项目的诞生——做一个本地的个人中转站。 目标: 频繁换渠道上游通过本站处理,映射到一个本地的服务上,减少agent上需要修改的内容 支持一个渠道多个key的轮询,可以规避一些并发限制 支持自动协议转换(openai,messages,respo…

内容摘要

作者:#HanesW 板块:#开发调优 开业推广声明 (click for more details) 背景:因为本人手中会有多个中转站和免费的资源,但是由于这些资源的不稳定性,会导致每次发生点什么都要修改agent配置文件来换其他的LLM源。同时,我又使用了不同的agent,有些修改起来比较麻烦,所以促成了这个项目的诞生——做一个本地的个人中转站。 目标: 频繁换渠道上游通过本站处理,映射到一个本地的服务上,减少agent上需要修改的内容 支持一个渠道多个key的轮询,可以规避一些并发限制 支持自动协议转换(openai,messages,responses) 支持模型映射,可以将不同上游渠道的模型映射成一个 支持agent的配置一键切换 后面可能会增加一些省token的功能 github.com GitHub - morning-start/silk: 一个本地端点,三大协议任意互转 一个本地端点,三大协议任意互转 目前已经 1.0.0 版本,使用没有太大问题了。

资讯来源

LinuxDo

原文链接

打开原文