社区讨论V2EX 程序员
做模型训练、蒸馏门槛高吗
想知道小模型训练、蒸馏、微调门槛高吗? 端侧模型的训练、微调、蒸馏门槛高吗? 端侧模型在推理上现在最大的障碍是什么呢? 简单描述一个我的判断,针对很对垂直细分领域的模型训练、微调、蒸馏,以及端侧模型的推理应该会有很多真实场景。 也就是说,对于一个业务主导的团队,怎么在没有专业模型训练方面的沉淀,就可以快速上手做自己的小模型。 如果从技术上能打通这个环节,会不会能踩中未来的一个方向呢?
内容摘要
想知道小模型训练、蒸馏、微调门槛高吗? 端侧模型的训练、微调、蒸馏门槛高吗? 端侧模型在推理上现在最大的障碍是什么呢?
简单描述一个我的判断,针对很对垂直细分领域的模型训练、微调、蒸馏,以及端侧模型的推理应该会有很多真实场景。
也就是说,对于一个业务主导的团队,怎么在没有专业模型训练方面的沉淀,就可以快速上手做自己的小模型。 如果从技术上能打通这个环节,会不会能踩中未来的一个方向呢?
资讯来源
V2EX