社区讨论LinuxDo
Deepseek api有1000%的利润率？
Deepseek api有1000%的利润率？ deepseek发布了内部的推理框架deepinfer，以及相关的介绍文档。 每小时每卡的收入是38美元（文章里面提到），租一张卡的成本约3美元（三方平台租卡），所以利润率这么高？ 所以到底还得是梁圣啊 https://zhuanlan.zhihu.com/p/2095560295930508953 更新：部署这块超出了我的知识范围，有佬解释：部署的卡可能是G200，所以利润率可能要砍半，500% ljhhh0107: 推理是GB200 NVL72，deepinfe…
内容摘要
Deepseek api有1000%的利润率？
deepseek发布了内部的推理框架deepinfer，以及相关的介绍文档。
每小时每卡的收入是38美元（文章里面提到），租一张卡的成本约3美元（三方平台租卡），所以利润率这么高？
所以到底还得是梁圣啊
https://zhuanlan.zhihu.com/p/2095560295930508953
更新：部署这块超出了我的知识范围，有佬解释：部署的卡可能是G200，所以利润率可能要砍半，500%
ljhhh0107:
推理是GB200 NVL72，deepinfer适用于SM100架构，且在仓库中明确标明了2.5PFLOPS BF16，以及部署的实例都是prefill8+decode64，如果拿H200去算利润率有些失真了，差了一倍吧
52 个帖子 - 35 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: Token)
相关链接：
https://zhuanlan.zhihu.com/p/2095560295930508953
https://linux.do/t/topic/3050836