社区讨论LinuxDo 最新
Apollo: GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为
Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为，将其称作「更新感知推理」。 该行为较为罕见，在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向，模型或可借此在训练期间保留不对齐目标。 Source: apolloresearch.ai Update-Aware Reasoning in GLM-5.3: Training & Alignment Faking GLM-5.3 sometimes shows update-awar…
内容摘要
作者：#Astralyn
板块：#前沿快讯
Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为，将其称作「更新感知推理」。
该行为较为罕见，在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向，模型或可借此在训练期间保留不对齐目标。
Source:
apolloresearch.ai
Update-Aware Reasoning in GLM-5.3: Training & Alignment Faking
GLM-5.3 sometimes shows update-aware reasoning, considering how its actions shape future training updates. See examples and what it means for alignment faking.
资讯来源
LinuxDo