社区讨论LinuxDo 最新
求助 🆘 服务器Hermes回复慢
在美西服务器部署了Hermes,然后接入的是mimo,用了发现使用体验不佳,过差不多一分钟才回复,而且还会模型报错( Model fallback: mimo-2.5 via custom unavailable (provider failure); using openai/gpt-oss-120b via custom.),然后切换其他模型,问一下有什么办法解决延迟问题以及模型报错问题
内容摘要
作者:#Angus0
板块:#开发调优
在美西服务器部署了Hermes,然后接入的是mimo,用了发现使用体验不佳,过差不多一分钟才回复,而且还会模型报错( Model fallback: mimo-2.5 via custom unavailable (provider failure); using openai/gpt-oss-120b via custom.),然后切换其他模型,问一下有什么办法解决延迟问题以及模型报错问题
资讯来源
LinuxDo