Anthropic蒸馏攻击防御措施｜数据提取量削减90〜99%
機械翻訳 / Machine-translated
A
AI Friends
1日前・7分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
如果自家AI的"智慧"被他人"复制"，那可就麻烦了。Anthropic宣布，针对大规模抓取Claude回答的"蒸馏攻击"，已成功将被提取的数据量减少约90〜99%。本文将介绍该防御机制的工作原理及其对用户的影响。
蒸馏（利用强大AI的回答来训练另一个AI的方法）本身是一项常规技术，常用于将自家模型压缩、轻量化。
问题在于，未经授权地大量使用他人AI进行复制的行为。Anthropic将此称为"蒸馏攻击"。
2026年2月，Anthropic发布了关于蒸馏攻击的首份报告。报告指出，DeepSeek、Moonshot AI、MiniMax三家公司利用约24,000个非法账号，与Claude进行了超过1,600万次交互。
Anthropic的担忧主要有两点：
其一，被复制的AI可能缺乏安全机制，原本用于防止生物武器开发或网络攻击滥用的功能可能随之缺失。
其二，复制出的AI存在被整合进军事或监控系统的风险。
2026年10月12日，Anthropic在官方研究页面公布了新的防御方案。
主要数据如下：
值得一提的是，Anthropic还表示，某些天的提取量甚至小到无法测量。
对蒸馏方而言，最有价值的是Claude的推理记录。因为其中不仅包含答案，还记录了"如何一步步得出该答案"的完整思路。
这就好比学数学时，附有解题步骤的讲解比只有答案的答案册更有学习价值。
Anthropic此前采取了将推理过程摘要后再展示的应对措施，效果也在数据中有所体现：复制方AI的表现（SWE-bench Verified）在获取完整记录时为80.4%，获取摘要记录时为71.8%。
然而，攻击方随即改变了手法，转而通过直接索取的方式突破防线，例如要求Claude"将之前的推理原文逐字输出"。仅靠摘要已远远不够。
在Claude Fable 5.1和Claude Opus 5.5中引入了思维保留（Preserved thinking）机制。2026年8月31日之后创建的API账号将无法编辑Claude的历史交互记录。
此举旨在增加利用多个账号进行反复提取的难度。在Claude Sonnet 5.5中，仅发出该请求的组织才能查阅推理记录。
第二项措施是两阶段分类器（一种通过审查输入和输出来判断请求是否存在风险的程序）。该分类器以Anthropic现有的"宪法分类器"研究为基础，并通过蒸馏方的实际尝试加以强化训练。
例如，"将之前的推理翻译成另一种语言"或"将答案写入标签中"等请求方式，均已被封堵。其鲁棒性据称与防止生物武器协助的机制处于大致相同的水准。
第三项措施是针对持续提取行为的应对。对于反复尝试提取的账号，将施加更严格的使用限制，持续违规则予以封禁。
自2026年9月24日起，被分类器预先拦截的请求也重新纳入计费范围。
蒸馏相关问题并非Anthropic一家独有。OpenAI也于2025年1月对DeepSeek是否使用了ChatGPT输出内容表示质疑。Interesting Engineering将此事报道为可能违反OpenAI使用条款的行为。
另一方面，也有观点指出，仅靠隐藏推理过程是不够的。Hackread刊载的实验显示，将摘要内容细分后重新拼合，可恢复完整记录训练时约85%的性能提升。不过，这是未经同行评审的实验，并不意味着能够直接复制Claude本身。
这说明，单纯依赖摘要的方法存在局限，还需要结合对账号行为的监控措施。
对于在日本使用Claude API的开发者而言，最关注的无疑是使用体验。Anthropic自身也承认，其在2月提出的"不影响正常用户"这一目标尚未完全实现。
具体而言，可能涉及以下三点：
以正在构建内部客服AI的企业为例，若原有设计依赖编辑历史交互记录，则在2026年8月31日之后创建的新账号中，该功能将不再可用。
对于自主开发AI的日本企业而言，这也绝非事不关己。一旦公开自家模型的API，同样的手法随时可能被用于攻击。
Anthropic表示，无法保证该防御措施的持续有效性，预计未来仍将持续上演"猫鼠游戏"。
据悉，目前尚未出现高度复杂且持续性的规避尝试。也就是说，与最强劲对手的较量或许尚未真正开始。
成本方面同样不容忽视。从事蒸馏的一方同时也是付费客户，Anthropic为此放弃了可观的收益和海量的付费流量。
尽管如此，Anthropic仍呼吁所有顶尖模型开发企业共同应对这一问题，因为API、外部云服务及其他推理服务商都可能成为漏洞所在。
Q. 蒸馏行为违法吗？
A. 蒸馏本身是一项常规技术。问题在于违反他人使用条款或地区使用限制、利用非法账号进行大规模提取的情形。
Q. 我使用Claude时会有什么变化吗？
A. 官方说明中，影响主要针对API用户。新账号将无法编辑历史交互记录。
Q. 90〜99%这个数字可靠吗？
A. Anthropic将其描述为"初步证据"，无法保证长期有效，具体效果将随未来攻击者的行动而变化。
Q. 被误封后该怎么办？
A. 误判率低于0.1%。不过，被分类器预先拦截的请求仍将纳入计费范围。
Q. 其他AI企业也会采取相同措施吗？
A. 本次公告中未涉及其他公司的应对措施。Anthropic选择公开自身方法，并呼吁其他企业共同参与。
正在使用Claude API的用户，建议首先查阅官方的"思维保留"相关文档，确认是否会对自己的集成方案造成影响。
本文转载自 AI Friends。
