社区讨论LinuxDo 最新
未来类似Qwen3.8 27B这种小型模型会如何发展
现在的量化蒸馏越来越优秀,智商也不断提高,想问未来这些小模型会怎样发展,是略微提高参数量的同时提高智商,还是在保持参数量的同时优化算法? 未来会和个人显卡有什么联动,可不可以替代luna这种模型干一些基础任务,个人本地部署会成为趋势吗? 问题有点多,希望佬们可以一起探讨一下。
内容摘要
作者:#南风
板块:#搞七捻三
现在的量化蒸馏越来越优秀,智商也不断提高,想问未来这些小模型会怎样发展,是略微提高参数量的同时提高智商,还是在保持参数量的同时优化算法?
未来会和个人显卡有什么联动,可不可以替代luna这种模型干一些基础任务,个人本地部署会成为趋势吗?
问题有点多,希望佬们可以一起探讨一下。
资讯来源
LinuxDo