社区讨论LinuxDo 最新
GPT-6.1-sol今天怎么这么慢啊?
GPT6.1sol今天是服务器卡没通电吗,好慢啊,等半天才动一下,速度堪比8GB显存部署16B本地大模型,token速得个位数每秒了吧,怎么这么慢啊 你们用着正常吗,慢不慢?
内容摘要
作者：#tianshuihanyun
板块：#搞七捻三
GPT6.1sol今天是服务器卡没通电吗,好慢啊,等半天才动一下,速度堪比8GB显存部署16B本地大模型,token速得个位数每秒了吧,怎么这么慢啊
你们用着正常吗,慢不慢?
资讯来源
LinuxDo