返回 AI 资讯
社区讨论LinuxDo 最新

GPT-6.1-SOL推理速度那么慢,最大的可能性就是参数过大,国内有且只有豆包,能与之抗衡。

传说豆包在偷偷训练10T参数的模型,别的国模没显卡资源,根本不可能把参数量拉到和6.1-SOL一个级别的,就算训练出来了,也没多余显卡进行推理。 只有豆包可以,因为字节在SEEDANCE赚了很多钱,同时也不缺钱。 豆姐,你是全村的希望,众望所归。

内容摘要

作者:#sczerg 板块:#开发调优 传说豆包在偷偷训练10T参数的模型,别的国模没显卡资源,根本不可能把参数量拉到和6.1-SOL一个级别的,就算训练出来了,也没多余显卡进行推理。 只有豆包可以,因为字节在SEEDANCE赚了很多钱,同时也不缺钱。 豆姐,你是全村的希望,众望所归。

资讯来源

LinuxDo

原文链接

打开原文