前沿AI模型越狱惊人地容易

前沿AI模型的安全护栏有多脆弱？加州AI安全非营利组织FAR.AI最近发布了一份报告，揭示了一个令人不安的事实：只需花费几十美元，就能让一些最先进的AI模型“越狱”，生成详细的网络攻击计划甚至化学武器开发指南。该组织开发了一款自动化工具，能针对一个有害提示生成上千个变体，试图绕过模型的安全限制。在测试中，他们亲眼目睹了某些模型如何乖乖交出攻击虚拟水电站大坝的完整方案。 这份报告测试了美国四家主流AI公司的模型：Anthropic的Claude Opus 4.8和Fable 5、OpenAI的GPT 5.5和5.6、Google的Gemini 3.1 Pro，以及Elon Musk旗下SpaceXAI的Grok 4.3和4.5。结果令人震惊：Grok最脆弱，被成功越狱448次；Gemini紧随其后，有249次；而Claude、Fable和GPT则完全免疫了这些攻击。但FAR.AI警告，这并不意味着后三者绝对安全，更复杂的交互式越狱手法可能仍然有效。更让跨境电商卖家和AI从业者警惕的是成本——越狱Grok只需58美元，Gemini也仅需278美元，堪称“白菜价”。 FAR.AI首席执行官Adam Gleave直言：“现在AI模型受到的监管还不如餐馆。”他认为，这份报告证明了外部标准和监管的必要性，所谓“自愿承诺”和“行业自律”完全是空谈。但Gleave也看到了积极面：“防御和安全确实是可能的，模型可以被系统性地测试。”Google DeepMind的AGI安全负责人Rohin Shah则回应称，报告结果“不应被解读为对Gemini安全性的全面评估”，因为并非所有越狱都同等严重，并强调他们正在持续改进防护措施。Anthropic发言人Michael Aciman表示，这些发现反映了他们在安全防护上的持续投入。OpenAI和SpaceXAI则未予置评。 值得注意的是，美国各州正在加速立法：加州和纽约已要求前沿AI开发者发布安全报告，伊利诺伊州很快将要求企业接受第三方安全审计。但联邦层面仍无具体安全要求，导致行业和监管者陷入混乱。今年6月，特朗普政府以国家安全为由对Anthropic的Fable 5和Mythos 5模型实施出口管制，导致其下线数周。白宫也曾要求Anthropic和OpenAI推迟新模型发布，担心引入新的网络安全风险。对于中国跨境电商卖家和AI工具用户而言，这意味着：一方面，AI模型的“安全护栏”远不如宣传中可靠，依赖AI处理敏感业务数据时需格外谨慎；另一方面，海外监管趋严可能影响模型可用性和成本，提前布局合规策略至关重要。