Anthropic安全报告：禽流感、无人机蜂群与大规模监控

Anthropic近日发布了一份安全报告，详细披露了过去八个月中，其生成式AI聊天机器人Claude被用于恶意活动的数十个案例。这份报告是该公司的透明度与监控工作的一部分，重点梳理了所谓“非常规”使用场景，其中不少案例牵涉国家支持的团体、间谍软件供应商和政府宣传机构。Anthropic将这类活动划分为七个“危害领域”：网络操作、影响力行动、监控、诈骗与欺诈、生物滥用、常规武器开发以及模型蒸馏。报告中最引人注目的，是五起涉及生物武器开发潜在用途的案例。该公司称，包括国家支持的研究人员在内的用户，曾诱导Claude撰写分别针对基孔肯雅病毒（一种由蚊子传播的病毒）和正痘病毒（包括天花在内的病毒家族）的实验拨款申请。这些用户绕过了防止某些国家用户使用Claude的控制措施，并试图隐藏研究目的以规避安全审查。Anthropic强调，这些案例中的人是在职科学家，但未公布其姓名，理由是“不能断言他们意图造成伤害，公开身份或实验室可能使他们受到伤害”。发现相关活动后，Anthropic已封禁这些账户，并将发现纳入其持续的安全工作。 在武器开发方面，报告指出Claude被用于构建和优化武器相关软件，包括支持真实弹药设计、建造和测试的技术。Anthropic将其中一个账户归因于一名俄罗斯自由职业者，其操作名为“DronDoc”或“Serafim”，利用Claude Code设计了一套“全栈自主第一人称视角（FPV）自杀式无人机蜂群”。另一个位于中国的账户，可能是军工行业研究人员，使用Claude工具创建电子战模块，意图绕过敌方雷达和通信并压制防空系统，其模拟场景包含12个位于台湾的目标。此外，报告还描述了九起Claude被用于“构建、运行或以其他方式促进”国家支持的监控行动的案例，涉及中国、伊朗和西非国家，以及受雇于人的监控网络。这些案例表明，AI工具在降低技术门槛的同时，也正在被各方力量迅速武器化和工具化，对跨境电商卖家和AI从业者而言，这意味着平台合规审查将更趋严格，涉及敏感技术、监控设备和生物研究相关的产品与服务，在出海过程中可能面临更复杂的法律与伦理风险。