技术社区博客园首页
HyMT2Sharp 2.0：纯 C 的混元翻译，现在能跑在显卡上了 - .NET骚操作
【摘要】一个月前我发布了 HyMT2Sharp 1.0，一个纯 C 写的 腾讯混元翻译模型 Hy-MT2 推理库。当时我自己在文章里泼了两盆冷水：只支持 x86 CPU（AVX2 / AVX-VNNI），只测过三种量化。 2.0 主要就是把这两盆冷水收回来： 加了 Vulkan 和 Metal 两个 GP 阅读全文
内容摘要
【摘要】一个月前我发布了 HyMT2Sharp 1.0，一个纯 C# 写的 腾讯混元翻译模型 Hy-MT2 推理库。当时我自己在文章里泼了两盆冷水：只支持 x86 CPU（AVX2 / AVX-VNNI），只测过三种量化。 2.0 主要就是把这两盆冷水收回来： 加了 Vulkan 和 Metal 两个 GP 阅读全文
资讯来源
博客园