Anthropic报告：威胁行为者试图利用AI进行恶意活动

Anthropic 发布了一份关于其打击“威胁行为者”的报告，披露有用户试图利用其 AI 模型 Claude 从事恶意活动，其中涉及可能支持生物武器研发的研究。这家以安全为导向的 AI 公司点名了五个案例，包括研究如何让一种蚊媒疾病更具传播性，以及为一个被其称为“国家项目”的计划重新设计毒素。Anthropic 表示，目前难以确凿判断这些行为是否与制造生物武器的计划直接相关，但公司已中断相关活动，并将信息同步给了有关部门和行业合作伙伴。 这件事的核心矛盾在于：推动新药研发、疾病治疗的那套科学知识，换个方向就可能被用来制造武器。这正是 AI 研究者和政策制定者长期担忧的技术风险之一——大模型在生物学等敏感领域的“能力溢出”。对跨境电商和出海从业者来说，这份报告释放了两个信号：一是头部 AI 公司正在收紧对高风险用途的访问权限，未来 API 调用、账号审核可能更严，依赖 Claude 等模型做选品分析、客服自动化的团队需要留意合规边界；二是“AI 用于恶意目的”正在从假设变成可被追踪的现实案例，平台方与监管方的联动会加速，涉及生物、化学等敏感关键词的业务场景尤其容易被误伤或重点审查。Anthropic 同时是 NPR 的资助方，但 NPR 声明不接受也不提供任何以报道或采访换取资金的安排。