返回 AI 资讯
技术社区开源中国

Anthropic 公开反蒸馏防御战报:让推理记录更难被偷、捕获量降了九成

Anthropic 今天发了一篇博客,讲他们怎么对付『蒸馏攻击』——一种隐蔽的、工业规模的、用大量非法账号从另一个模型批量抽取能力的做法:从更强、更大的模型(这里就是 Claude)生成数百万条回复,再拿这些回复去教一个更小的模型模仿前者的行为,从而用开发时间和成本的一小部分就逼近前沿能力。Anthropic 说过去几个月...

内容摘要

Anthropic 今天发了一篇博客,讲他们怎么对付『蒸馏攻击』——一种隐蔽的、工业规模的、用大量非法账号从另一个模型批量抽取能力的做法:从更强、更大的模型(这里就是 Claude)生成数百万条回复,再拿这些回复去教一个更小的模型模仿前者的行为,从而用开发时间和成本的一小部分就逼近前沿能力。Anthropic 说过去几个月...

资讯来源

开源中国

原文链接

打开原文