检测与反制AI滥用：2026年9月 - Anthropic

Anthropic 最新发布的威胁情报报告披露了一个值得跨境电商和AI从业者关注的趋势：过去八个月里，其威胁情报团队识别并处置了多起滥用 Claude 模型从事恶意活动的行为，涉及网络攻击、影响力操控、监控、诈骗、生物滥用、常规武器开发和模型蒸馏七大领域。报告覆盖的时间段是2025年12月至2026年8月，被滥用的模型包括 Claude Haiku、Sonnet 和 Opus，而防护更严的 Fable 和 Mythos 系列基本未被攻破，仅在一起非法蒸馏案例中被触及。实施滥用的主体既有疑似国家支持的黑客组织，也有以牟利为目的的犯罪团伙、商业间谍软件厂商、国家宣传机构和有政治动机的个人，案例从批量伪造约会App诈骗用户，到搭建监控系统识别异见人士，跨度相当大。 对跨境卖家而言，这份报告最直接的警示在于诈骗与欺诈这条线。报告提到，有团伙搭建了一批虚假约会App专门用于骗取用户钱财，这类手法与跨境电商领域常见的刷单诈骗、虚假客服、钓鱼邮件在技术逻辑上高度相似——都是利用AI批量生成以假乱真的内容，降低作案成本、扩大触达规模。Anthropic 在报告中提出了一个叫 uplift（能力增益）的衡量框架，从速度、规模、深度三个维度评估AI到底让攻击者多做了多少坏事。结论是：外界往往盯着"AI能否自动生成漏洞利用代码"这一个点，但真正的风险其实贯穿整条网络攻击链——攻击者可以用更少的人力、更快的节奏、在更广的面上同时作业。这意味着，依赖人工审核和规则拦截的传统风控体系，面对AI加持的对手会越来越吃力。 值得注意的是，Anthropic 强调这些案例并非普通滥用，而是迄今发现的最典型、最新颖的威胁活动，并明确表示披露这些信息是出于责任。报告还透露，每一起案例中，公司都中断了相关活动，把学到的经验用于加固防护措施，并在适当情况下与监管机构和行业伙伴共享了情报。对于正在使用或计划接入大模型能力的出海企业来说，这释放了两个信号：一是主流模型厂商的安全护栏正在持续迭代，合规使用不会受太大影响；二是如果自身业务涉及用户内容生成、客服自动化或支付环节，需要重新评估AI工具被内部人员或外部攻击者反向利用的可能性。Anthropic 也呼吁其他开发者从这份报告中识别自家平台上的类似模式，帮助政府和社会更清晰地看到新兴威胁的成型路径。