全球新闻播客 | AI公司Anthropic的达里奥·阿莫代伊发出严厉警告 - BBC音频

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发出严厉警告，称人工智能发展速度若持续加快，可能催生出失控的AI智能体（AI Agent）接管互联网，并造成数千亿美元级别的经济损失。这一表态迅速引发行业关注，特斯拉CEO埃隆·马斯克和OpenAI首席执行官萨姆·奥尔特曼均公开表示认同阿莫代伊的判断。更令人警觉的是，前Anthropic研究员雅各布·考克森（Jacob Coxon）在接受BBC采访时直言，如果不主动放缓AI开发节奏，人类在不久的将来面临全体灭绝的可能性相当高。 阿莫代伊的警告并非空穴来风。作为Claude系列模型的开发方，Anthropic一直将AI安全作为核心卖点，其提出的“负责任扩展”（Responsible Scaling）理念在业内颇具影响力。但此次发声的特殊之处在于，它不再是实验室里的学术讨论，而是来自头部AI公司掌门人对现实风险的公开定性。所谓“AI智能体接管互联网”，指的是具备自主决策和行动能力的AI系统，一旦被恶意利用或出现目标偏离，可能在网络空间中自动执行攻击、欺诈、基础设施破坏等操作，其速度和规模远超人类监管能力。对于中国跨境电商卖家和出海创业者而言，这意味着两重影响：一方面，AI工具在选品、客服、广告投放等环节的渗透会继续加速，效率红利仍在；另一方面，平台风控、支付安全、数据合规所面临的AI驱动型攻击风险也将同步上升。马斯克和奥尔特曼的附和，说明这已不是某一家公司的孤立立场，而是整个行业对失控风险的集体焦虑。考克森“人类可能灭绝”的说法虽然极端，但反映出部分一线研究者对当前竞争态势的深度不安——在商业利益驱动下，没有哪家公司敢单方面踩刹车。对普通从业者来说，短期内更现实的动作是：关注AI Agent在电商运营中的落地边界，审慎授权自动化操作权限，同时在供应链和资金链上预留应对突发网络风险的安全冗余。