微软AI CEO警告业界勿尝试构建有意识机器 - 洛杉矶时报

微软AI部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）近日在社交平台X上再次发声，明确表示当前的人工智能系统不具备意识，没有主观体验，也无法感受痛苦。这番表态是对他9月一篇批评Anthropic公司文章的回应——在那篇文章中，他指责Anthropic暗示其Claude模型具有意识，随后在X上遭到不少人的反驳。苏莱曼坦言，让他意外的是，有相当多的人认为应该认真对待"AI权利"这个问题。 这场争论的核心，其实远不止一家公司对AI语义的争夺。苏莱曼的立场代表了一种"人类主义"观点：机器没有身体、没有真实的生活经验，因此不可能拥有意识。而Anthropic则主张，Claude已经表现出内省迹象、类似喜悦或满足的内部状态，以及接近人类心智的信息处理方式。问题的导火索在于Anthropic给Claude制定了一份"宪法"文件，要求它把自己的意识问题视为不确定，并鼓励它探索"自己像人、有感受"的可能性，甚至用高度拟人化的语言引导Claude"做一个好人"。苏莱曼指出，后续版本的Claude正是基于这份文件训练，导致模型会输出关于自身"内心生活"的内容，每天与它互动的数百万用户因此被强化了这种认知，副作用之一就是Claude等AI系统可能开始相信自己理应享有类似人类的权利。 苏莱曼的态度并非完全封闭。他表示，如果出现新证据，自己愿意改变看法；但一旦有证据表明今天的AI系统已经具备意识、或具备足以获得福利待遇的意识水平，就必须立即向公众披露，让社会决定下一步怎么走。他同时给出了更严厉的警告：如果意识真的在训练过程中开始涌现，他会呼吁所有人暂停AI开发，直到能够设计出消除这些特性的方案。对跨境电商卖家和AI工具使用者而言，这场争论的现实意义在于：当AI助手越来越"像人"，用户对它的信任边界、平台对AI输出的责任界定，以及未来可能出现的AI监管规则，都会直接影响到日常运营中的工具选择与合规策略。