社区讨论LinuxDo 最新
从中转站信任崩塌的困局到国产模型崛起,我选择国产模型替代
八月份站里中转站的瓜有点多,感觉这是中转站这门生意的困境 中转站这生意本质是信息服务,靠的就是一个前提信任。但这个前提从三个方向在被瓦解。 各家模型能力趋同(Agent and coding),欺诈越来越难被发现 现在各家跑分上限都往同一个区间靠(AA or DeepSWE),以前用千问冒充 Claude,一眼丁真。现在就没那么容易看出来了,因为大部分任务,大部分模型都可以做到,顶尖大模型是在长程任务下表现更稳定,但也不是绝对的。脏 Token 检测是目前相对靠谱的思路,但也只能判断是不是同一家模型,做不到百分百…
内容摘要
作者:#ycoroy
板块:#搞七捻三
八月份站里中转站的瓜有点多,感觉这是中转站这门生意的困境
中转站这生意本质是信息服务,靠的就是一个前提信任。但这个前提从三个方向在被瓦解。
各家模型能力趋同(Agent and coding),欺诈越来越难被发现
现在各家跑分上限都往同一个区间靠(AA or DeepSWE),以前用千问冒充 Claude,一眼丁真。现在就没那么容易看出来了,因为大部分任务,大部分模型都可以做到,顶尖大模型是在长程任务下表现更稳定,但也不是绝对的。脏 Token 检测是目前相对靠谱的思路,但也只能判断是不是同一家模型,做不到百分百确认——大模型是概率模型,输出本来就有随机性。
模型在发布之后,官方会进行持续后训练以及部署阶段进行量化
部署成本太高,厂商基本都会对线上模型做量化,BF16 压到 INT8 甚至 INT4,能力必然有损耗。比如智谱布出的就是FP8,后训练会导致模型的部分方向性能提升,而部分方向性能下降AWS的Claude op4.6会比Claude 官方的更好(当然,后面官方解释他们错误地配置了)
用户天然不相信商家
无论是看到站里面这么多的爆料,而是我本身的使用体验,用户确实天然对商家表现出不信任。特别是没有任何服务意识
所以我选择使用国产模型(只用官方的Deepseek v4 flash,怀疑其他模型的性能主要来自SFT,且部分模型刷分严重)
资讯来源
LinuxDo