返回 AI 资讯
社区讨论LinuxDo 最新

最近 5h 的 gpt-6.1-sol 速度还是 20 t/s 左右,似乎并没有怎么提速?

TPS 均值和中位数都只有 20 t/s 计算方法是输出 tokens(包括 reasoning tokens)除以总延迟(未减去首字延迟)

内容摘要

作者:#Hao 板块:#搞七捻三 TPS 均值和中位数都只有 20 t/s 计算方法是输出 tokens(包括 reasoning tokens)除以总延迟(未减去首字延迟)

资讯来源

LinuxDo

原文链接

打开原文
最近 5h 的 gpt-6.1-sol 速度还是 20 t/s 左右,似乎并没有怎么提速? · AI 资讯 · AIGOOD - AIGOOD