币界网消息，Anthropic披露了一套名为「自我评估」的安全机制。从今年6月开始，Claude在回答用户后，会在后台检查对话，判断是否存在诈骗、网络攻击等滥用风险，并给出风险等级。用户无法看到这一过程，系统也不会立即拦截回答。过去，Anthropic主要依靠额外的安全分类器识别违规行为。现在，Claude利用处理过的对话上下文完成初步审查，平均只需多生成约10个token，额外推理算力不到2%。这套机制已发现传统安全系统漏掉的问题。今年8月，单个API客户触发超过10万条儿童性剥削风险警报。9月，系统发现有人利用Claude Code实施恋爱诈骗，针对数十名受害者。Anthropic调查后封禁相关账号，并将事件报告给美国有关机构。尽管如此，Claude并不总能识破恶意行为，在关闭常规防护的24项网络攻击测试中，仍有13项攻击成功。因此，这套机制目前主要用于事后监控，而非实时阻止用户操作。