社区讨论LinuxDo 最新
GPT-6.1-SOL推理速度那么慢,最大的可能性就是参数过大,国内有且只有豆包,能与之抗衡。
传说豆包在偷偷训练10T参数的模型,别的国模没显卡资源,根本不可能把参数量拉到和6.1-SOL一个级别的,就算训练出来了,也没多余显卡进行推理。 只有豆包可以,因为字节在SEEDANCE赚了很多钱,同时也不缺钱。 豆姐,你是全村的希望,众望所归。
内容摘要
作者:#sczerg
板块:#开发调优
传说豆包在偷偷训练10T参数的模型,别的国模没显卡资源,根本不可能把参数量拉到和6.1-SOL一个级别的,就算训练出来了,也没多余显卡进行推理。
只有豆包可以,因为字节在SEEDANCE赚了很多钱,同时也不缺钱。
豆姐,你是全村的希望,众望所归。
资讯来源
LinuxDo