社区讨论LinuxDo 最新
想部署qwen3.8 27b,大佬们推荐个版本,dell7920工作站,RTX3090 24G,内存128
手头有dell7920工作站,RTX3090 24G,内存128,看主板还能插一个3090 供电口差一组8pin,电脑城说可以按个转接。电源是1400W,2种情况,都能部署哪个版本的qwen3.8 27b,自用用slgon,还是llama.cpp ,新手小白,请大佬们赐教
内容摘要
作者:#wind
板块:#开发调优
手头有dell7920工作站,RTX3090 24G,内存128,看主板还能插一个3090 供电口差一组8pin,电脑城说可以按个转接。电源是1400W,2种情况,都能部署哪个版本的qwen3.8 27b,自用用slgon,还是llama.cpp ,新手小白,请大佬们赐教
资讯来源
LinuxDo