技术社区开源中国
Jeff 开源发布:22 毫秒出一次决策的小模型、0.8B 微调在 benchmark 上逼近 Jev
一个叫 Jeff 的开源项目,把「专做快速决策的小模型」这条路又往前推了一步。它是 Qwen3.5 和 Gemma 4 的微调版本,定位是“zero-shot(零样本)”分类器——你描述一个场景、列一堆选项,Jeff 一次前向计算就返回每个选项的校准概率,不生成文本、不用解析,在 RTX PRO 6000 上约 22 毫秒出一次决策,Apple M4 Max(MLX...
内容摘要
一个叫 Jeff 的开源项目,把「专做快速决策的小模型」这条路又往前推了一步。它是 Qwen3.5 和 Gemma 4 的微调版本,定位是“zero-shot(零样本)”分类器——你描述一个场景、列一堆选项,Jeff 一次前向计算就返回每个选项的校准概率,不生成文本、不用解析,在 RTX PRO 6000 上约 22 毫秒出一次决策,Apple M4 Max(MLX...
资讯来源
开源中国