返回 AI 资讯
社区讨论LinuxDo 最新

minimaxh3自部署一般设多少step

我自部署在了一代910a上面 感觉性能有限 目前性能极限20steps 估计要15分钟左右 我在想有什么方案还能提升速度 有必要去重写算子 推理引擎之类的吗 还是换量化版本

内容摘要

作者:#lamb 板块:#开发调优 我自部署在了一代910a上面 感觉性能有限 目前性能极限20steps 估计要15分钟左右 我在想有什么方案还能提升速度 有必要去重写算子 推理引擎之类的吗 还是换量化版本

资讯来源

LinuxDo

原文链接

打开原文