社区讨论LinuxDo 最新
请输入文本！q4量化版qwen3.8next本地部署编写高保真3D魔方
expensive-tan-titvdcst.edgeone.dev Physics-Grade Rubik's Cube — Three.js 我的天哪千问大人！ 部署方法相当弱智，unsloth的q4xl模型下载下来，llamacpp pull master然后make，直接开跑，接cherrystudio一波出 内存占用相当友好，llamacpp最新代码已经将engram模块卸载到ssd了，128G的dgx spark后台挂着一个占用30G的comfy ui几乎不影响速度，也没爆显存，也就是实际上占用80G…
内容摘要
作者：#yricky
板块：#国产替代
expensive-tan-titvdcst.edgeone.dev
Physics-Grade Rubik's Cube — Three.js
我的天哪千问大人！
部署方法相当弱智，unsloth的q4xl模型下载下来，llamacpp pull master然后make，直接开跑，接cherrystudio一波出
内存占用相当友好，llamacpp最新代码已经将engram模块卸载到ssd了，128G的dgx spark后台挂着一个占用30G的comfy ui几乎不影响速度，也没爆显存，也就是实际上占用80G左右的显存
资讯来源
LinuxDo