返回 AI 资讯
社区讨论LinuxDo 最新

感谢开源!本地游戏单卡部署完全可用的模型,256K上下文,120TPS!

Niko1221/Strata项目神中神,单独水一贴吹吹。 qwen-3.8-flash-next这个模型刚出来我就本地用lmstudio跑过,模型效果还可以的,就是雷霆大思考比27B还严重,当时只是测试玩玩,128K上下文个位数TPS,没想到现在也是轻松破百了,给astra和opus 5.5打打下手没什么问题 【假期总结】恢复了但没完全恢复,再见了,所有的降智流口水Pro20x 开发调优 请问这个是什么检测工具

内容摘要

作者:#Flashyyl 板块:#搞七捻三 Niko1221/Strata项目神中神,单独水一贴吹吹。 qwen-3.8-flash-next这个模型刚出来我就本地用lmstudio跑过,模型效果还可以的,就是雷霆大思考比27B还严重,当时只是测试玩玩,128K上下文个位数TPS,没想到现在也是轻松破百了,给astra和opus 5.5打打下手没什么问题 【假期总结】恢复了但没完全恢复,再见了,所有的降智流口水Pro20x 开发调优 请问这个是什么检测工具

资讯来源

LinuxDo

原文链接

打开原文