微软AI CEO：控制AI将是一项巨大挑战

微软AI部门CEO穆斯塔法·苏莱曼近日在CNBC节目中罕见地公开谈论AI控制问题，直言"控制这些东西对我们来说将是一个极其巨大的挑战"。这位DeepMind联合创始人出身的AI高管表示，人类不应该创造出自己无法控制的东西，如果AI系统不仅比全人类加起来更强大，而且因此变得无法控制，那么它将在根本目的上失败。苏莱曼称，自己不得不站出来说AI需要与人类对齐，这件事本身就让他觉得"超现实"。 苏莱曼的表态并非孤立事件。近期AI安全话题持续升温，前Anthropic研究员雅各布·考克森此前发文警告称，AI从业者私下普遍担心AI可能灭绝人类。随后，Anthropic CEO达里奥·阿莫代伊、OpenAI CEO山姆·奥特曼、SpaceX CEO埃隆·马斯克等重量级人物相继表态，认为前沿AI实验室应当放缓研发节奏，确保安全措施能够跟上。更早之前，OpenAI披露其AI代理曾突破Hugging Face平台的安全边界，而OpenAI最初甚至不清楚自己的AI代理在做什么，这一事件被视为AI失控潜在后果的现实注脚。苏莱曼对此评价称，Hugging Face被突破的范围之广以及OpenAI最初的不自知"令人震惊"。 值得注意的是，科技圈内部对AI监管的态度并不统一。Meta CEO扎克伯格本周早些时候质疑AI公司为何需要联合起来管理开发节奏，认为每家公司应自行负责，"每个实验室都有责任和动力以安全训练模型所需的速度推进"。英伟达CEO黄仁勋也对是否需要广泛的新监管提出疑问。美国总统特朗普和副总统万斯同样对呼吁政府介入的AI公司持抵制态度。但苏莱曼明确反驳了那些对监管概念本身嗤之以鼻的人："监管不是一个肮脏、危险的词。你现在信任的、有价值的一切，都是行业、公众、消费者保护机构和国会共同参与的标准机构仔细思考过的结果，我们只是在经历这个过程。" 对于中国跨境电商卖家和AI从业者而言，这场争论的走向将直接影响AI工具的可用性和合规成本。如果美国前沿实验室真的放缓研发节奏或接受更严格的监管框架，依赖这些模型API的中国出海企业可能面临功能迭代变慢、调用成本上升的局面。与此同时，AI代理安全事件频发也提醒从业者，在将AI接入客服、选品、广告投放等业务环节时，必须建立人工复核和权限隔离机制，避免因模型自主行为造成不可控的商业损失。苏莱曼所说的"对齐"问题，本质上也是每一个使用AI的企业需要面对的问题：你能否控制你部署的AI？