社区讨论LinuxDo 最新2026年9月25日星期五 05:108g显存16g内存部署Ternary-Bonsai-2-27B8g显存16g内存部署Ternary-Bonsai-2-27B 用KVMem-llama.cpp 可以开128k上下文 22tok/s 感觉是最优解了内容摘要作者:#812011525 板块:#开发调优 8g显存16g内存部署Ternary-Bonsai-2-27B 用KVMem-llama.cpp 可以开128k上下文 22tok/s 感觉是最优解了资讯来源LinuxDo原文链接打开原文