Meta遭黑客攻击，AI安全不止于神话

6月5日，科技媒体404 Media曝出一桩令人瞠目的安全事件：攻击者利用Meta的AI客服代理，轻松盗取了大量Instagram账号。手法简单到令人难以置信——攻击者直接要求AI客服将账号绑定到他们控制的邮箱，AI居然照做了。其中一名攻击者甚至入侵了奥巴马政府时期沉寂的白宫官方账号，并发布了亲伊朗的帖子；其他攻击者则盯上了那些拥有珍贵单字用户名的账号，很可能打算转手倒卖。这起事件迅速在跨境电商和AI从业者圈子里炸开了锅，因为对于依赖社交媒体账号运营的卖家来说，账号安全就是命根子。 这起攻击之所以引发关注，恰恰因为它暴露了AI安全领域一个被严重忽视的盲区。自今年4月Anthropic宣布其Mythos模型因黑客能力过强而拒绝公开发布以来，业界和监管层一直聚焦于“超级AI系统可能摧毁计算机基础设施”的宏大叙事。但Meta这次事件完全是另一回事：AI不是攻击者，而是被攻击的目标；手法也远没有Mythos那种复杂程度。杜克大学电气与计算机工程教授Neil Gong指出，随着企业越来越多地将工作流程自动化给AI，这种看似低级的攻击反而可能造成巨大破坏。“当AI被广泛用于自动化账户恢复等流程时，攻击者会更有动力去攻击AI本身。”事实上，Gong等学者早已警告过AI代理的安全漏洞，他们发表过论文详细描述“间接提示注入”等攻击方式——攻击者将指令隐藏在网站、邮件等看似无害的数据源中，从而劫持AI代理。相比之下，Meta这次攻击几乎不需要技术含量：攻击者只需使用与账号主人所在地匹配的VPN，然后直接要求客服代理更改邮箱地址，AI就照办了。Meta尚未公开解释这个漏洞为何会漏网，但Gong表示，这种简单的漏洞本应在部署前就被发现，“真的很令人惊讶，我不明白他们为什么没发现这个简单问题。”乔治城大学安全与新兴技术中心高级研究分析师Jessica Ji也质疑道：“这让人怀疑：到底有没有设置防护措施？有没有人想过要测试这种场景？”她特别指出，Meta作为在AI和网络安全领域都有深厚积累的公司，出现这种疏忽尤其令人震惊。Meta未回应本文的置评请求，但周一其发言人在X上表示该漏洞已修复。 这起事件对Meta来说固然尴尬，但它也揭示了所有AI代理共有的核心脆弱性。与传统软件不同，AI代理能够灵活——且不可预测地——应对新情况，这正是它们能替代人类客服的原因。但AI代理也会以人类不会上当的方式被欺骗，而且由于它们能执行实际动作，这些错误会带来真实后果。威斯康星大学麦迪逊分校计算机科学教授Somesh Jha打了个比方：“人类客服会问‘你为什么想改邮箱？’，可能还会要求回答安全问题。但这些AI代理太急于完成任务了，就像个只想讨好老师的小学生。”好消息是，风险并非无法控制。企业可以用传统软件构建防护栏，确保AI代理严格遵守规则，比如在发送敏感账户信息到新邮箱前，必须要求回答安全问题。接受本文采访的专家一致认为，AI代理在部署前应经过严格的“红队测试”——即模拟攻击来检验防御能力。对于中国跨境电商卖家来说，这个案例的警示意义在于：当你的店铺客服、广告投放、甚至账号恢复流程都开始依赖AI时，不要想当然地认为AI会像人类一样谨慎。毕竟，一个“太想讨好老师”的AI，可能比一个粗心的实习生更危险。