Anthropic称新防御削减Claude推理token窃取

Anthropic 称其新防御措施将 Claude 推理 token（模型内部思维链步骤）被提取的量削减了 90% 至 99%，成功蒸馏尝试在防御上线后大幅下降。 Anthropic 表示，其做法是限制对 Claude 内部推理步骤的访问、运行检测提取尝试的分类器，并自动封禁被标记的账户，目前已封禁数万个账户。Anthropic 呼吁其他 AI 开发者采用类似保护措施，同时承认合法用户也会被误伤。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。