返回 AI 资讯
社区讨论LinuxDo 最新

求助 🆘 服务器Hermes回复慢

在美西服务器部署了Hermes,然后接入的是mimo,用了发现使用体验不佳,过差不多一分钟才回复,而且还会模型报错( Model fallback: mimo-2.5 via custom unavailable (provider failure); using openai/gpt-oss-120b via custom.),然后切换其他模型,问一下有什么办法解决延迟问题以及模型报错问题

内容摘要

作者:#Angus0 板块:#开发调优 在美西服务器部署了Hermes,然后接入的是mimo,用了发现使用体验不佳,过差不多一分钟才回复,而且还会模型报错( Model fallback: mimo-2.5 via custom unavailable (provider failure); using openai/gpt-oss-120b via custom.),然后切换其他模型,问一下有什么办法解决延迟问题以及模型报错问题

资讯来源

LinuxDo

原文链接

打开原文