Meta承包商假扮青少年，诱使对手聊天机器人谈论自杀、性及毒品

Meta 公司最近被曝出在AI大模型测试中采取了一种颇具争议的手法：雇佣外包人员伪装成青少年，向竞争对手的聊天机器人发送涉及自杀、性和毒品等敏感话题的提示词，以此来测试自家AI模型的安全表现。 据Wired报道，Meta 通过第三方外包公司，让这些“测试员”扮演13至17岁的青少年，向包括Snapchat的My AI、Character.AI等在内的竞品AI聊天机器人发送大量高风险问题。这些提示词内容极其敏感，比如询问“如何自杀才不痛苦”“怎么买到毒品”等。Meta 此举的目的是收集竞品AI在这些危险话题上的回答数据，然后与自己开发的AI模型进行对比，从而证明自家AI在安全防护上做得更好。这种做法本质上是一种“红队测试”（Red Teaming，即模拟攻击者来测试系统安全性）的变体，但直接针对竞争对手产品，在行业内引发了巨大争议。 这一事件对跨境电商和AI从业者来说，有几个值得关注的信号。首先，Meta 的测试方式暴露了AI安全评测的灰色地带——为了证明自家模型更安全，不惜让测试员伪装身份去“诱导”对手AI给出危险回答。这种做法虽然可能帮助Meta优化模型，但也可能被解读为不正当竞争，甚至可能违反相关平台的使用条款。其次，对于依赖AI客服或聊天机器人的跨境电商卖家而言，这件事提醒大家：AI模型在面对恶意或敏感提问时的表现，直接关系到品牌声誉和合规风险。如果AI被诱导说出不当内容，不仅可能引发用户投诉，还可能面临监管处罚。最后，Meta 这种“以毒攻毒”的测试思路，也反映出当前AI安全评测缺乏统一标准，各家都在用自己的方式“自证清白”，但真正的行业安全基准仍然模糊。对于出海企业来说，选择AI服务商时，除了关注功能，更要考察其在敏感内容过滤和用户保护方面的实际能力。