核心结论：Anthropic 介绍了一种让 Claude 在回复后评估整段对话的机制，将风险信号送入离线复核。官方技术文章页标注 2026 年 10 月 16 日，说明该机制自 6 月起用于生产。这属于安全监控实践披露，不是新模型或供客户直接启用的独立产品发布。
为什么把评估放在回复之后？
该方法复用模型刚处理过的上下文缓存，以短指令生成结构化判断，帮助安排后续复核。它是多层防护中的补充环节；生产中自身不直接阻断对话，一次风险标记也不等于用户已违规。
如何理解官方评测数字？
Anthropic 报告，在 Fable 5 上，以更强的提示式分类器为参照、误报率为 1% 时，自评估找出了其中 94% 的高优先级对话。这是厂商特定评测条件下的结果，不能改写为对全部真实危害的检出率。参考分类器本身也可能存在盲点。
自评估能否独立承担安全把关？
官方明确表示，它不足以单独抵御专门针对该机制的攻击，也尚不能可靠监控模型自身全部行为。对企业来说，模型自检可用于辅助发现线索，但审批、权限和业务规则仍需有独立执行机制。
中蓝科创观察：把风险线索接入可追踪的处置流程
企业建设客服、研发或业务智能体时，首先应定义哪些异常需要复核，以及由谁判断、采取何种处置。评估结果应能关联任务与工具调用记录；复核人员需要看到足以理解问题的证据，也要受到数据访问权限的约束。
对于修改订单、发送消息和部署代码等动作，后端应校验身份、参数、状态及审批条件。事后监控有助于发现遗漏，动作前的授权则控制实际执行范围。两者需要围绕同一任务协同设计。
试点评估可以同时记录漏报、误报、复核耗时和处置结果，并用本企业样本持续抽检。引入自评估前，还应明确日志保存范围、访问角色和保留期限，避免只增加告警数量，却没有相应处理能力。
资料来源：Anthropic Safeguards《Scaling Misuse Detection with Self-Assessment》（页面标注 2026 年 10 月 16 日）。数字和机制描述来自官方披露；企业实施建议为中蓝科创分析。
