返回 AI 资讯
社区讨论LinuxDo 最新

DeepSeek V4.1 Flash 论文里面关于思考强度相关的内容可以解答一些使用体验上的问题

看了 V4.1-Flash 的技术报告,说一下它 Reasoning Effort 机制的重点。 Effort 现在是数字,三档只是预设 底层是一个 1–100 的标量。API 上还是 low / high / max 三个名字,但它们只是三个预设点, 分别是 50, 75, 100. 训练里只用了几个档位,但中间值也能插值生效——同一个模型,不换权重、不改采样参数,靠这个数字在「省钱」和「使劲想」之间滑动。 怎么实现的 说白了很朴素:在 system prompt 前面加一行「Reasoning Effort:…

内容摘要

作者:#sandiferresner 板块:#开发调优 看了 V4.1-Flash 的技术报告,说一下它 Reasoning Effort 机制的重点。 Effort 现在是数字,三档只是预设 底层是一个 1–100 的标量。API 上还是 low / high / max 三个名字,但它们只是三个预设点, 分别是 50, 75, 100. 训练里只用了几个档位,但中间值也能插值生效——同一个模型,不换权重、不改采样参数,靠这个数字在「省钱」和「使劲想」之间滑动。 怎么实现的 说白了很朴素:在 system prompt 前面加一行「Reasoning Effort: N」,然后用 RL 把它练成行为。具体机制是奖励里有一个思考长度的惩罚项,effort 数字越高、每多写一个思考 token 挨的罚越轻。所以模型「想多久」是被这个数字直接调控的,而且单轮推理和 agent 任务用的是同一套机制。 实测效果(报告数据) effort 从 25 拉到 100: 8 项推理基准平均分:67.1% → 76.3% DeepSWE v1.1:66.0% → 74.2% Terminal-Bench 2.1:82.4% → 90.6% 代价:输出 token 约多 2.5 倍 关键是收益前置:60–80 这个区间用不到一半的 token 就能拿到大部分分数;从 80 拉满到 100,token 再多 1.6–1.8 倍,提升却只有边际。逐基准看最夸张的是 MathArena Apex:25.3% → 65.6%,而已经饱和的基准(比如 GPQA)几乎不动。 一个容易忽略的点:harness 的影响不比 effort 小 他们用 Claude Code、Codex、OpenCode、Pi、mini-SWE 等一堆 scaffold 测了同一模型:任务接近饱和时(Terminal-Bench 2.1),换 harness 带来的分差 ≥ 换 effort 档位带来的分差。模型过了饱和线之后,再堆 effort 意义不大。 实用结论 日常任务用中高档(对应 60–80),性价比最高 max(100)留给真正的难题,为边际提升多花近一倍的 token 不划算 如果你的调用端/网关支持透传,中间数字理论上都有效(他们测过 25–40–60–80–100),但 API 只承诺三档 所以我估计,如果 AA 等各种评测如果不是用 Max 档,而是用 High,性价比要高得多, 估计会非常夸张。

资讯来源

LinuxDo

原文链接

打开原文