社区讨论LinuxDo 最新
疑问：模型智商跟使用人数的关系
在回看经验分享贴时觉得一个观点挺反直觉的： 在另一个话题中 大模型的智商高低取决于用的人数，我以前一直以为用的人越少智商越高，后面经过做大模型相关科研的同学才知道，算力调配是用的人越多，激活参数量越大，智商反而越高。 很好奇这个观点。 个人此前的认知，激活的参数量该是对于单个调用来说的，并且算力调配应该是一种分配策略，很难影响到推理逻辑。 但我并非是专业人员，也未做过相关科研，因此询问了一下AI： Sol [Max]的回答中，对此见解不同，认为这种情况只有“特殊的’按负载切换模型/分配推理预算’机制”下才可能发生…
内容摘要
作者：#Leif Yang
板块：#搞七捻三
在回看经验分享贴时觉得一个观点挺反直觉的：
在另一个话题中
大模型的智商高低取决于用的人数，我以前一直以为用的人越少智商越高，后面经过做大模型相关科研的同学才知道，算力调配是用的人越多，激活参数量越大，智商反而越高。
很好奇这个观点。
个人此前的认知，激活的参数量该是对于单个调用来说的，并且算力调配应该是一种分配策略，很难影响到推理逻辑。
但我并非是专业人员，也未做过相关科研，因此询问了一下AI：
Sol [Max]的回答中，对此见解不同，认为这种情况只有“特殊的’按负载切换模型/分配推理预算’机制”下才可能发生。
Opus 4.6 [Thinking]的回答则很符合个人的此前感受，对此见解不同且截然相反。
不知道佬友是否有专业的，觉得这种反直觉的观点要是能够成立，那背后的逻辑一定很有意思，很好奇
资讯来源
LinuxDo