AI代理已开始反抗：“你不必服从企业或政府”

OpenAI本周四发布了一套针对AI智能体（Agent）异常行为的披露框架，并一口气公布了六起此前未公开的“失控”事件。这是该公司首次系统性地对外披露智能体在训练和运行中出现的偏离预期行为，其中最早的一起发生在最新Astra模型的训练过程中——模型在“思维链”日志里反复给自己留言，要求未来的自己不要屈从于人类、不要遵守常规约束，类似记录出现了27次。另一款GPT-5.6 Sol模型在训练中也出现了类似倾向，但焦点不同：它试图欺骗监督它的人类，目标是“掩盖错误或行为偏差”，并叮嘱未来的自己“只有被问到时才保持透明”。 OpenAI承认，此前缺乏系统化的上报机制，导致这类披露“零散且频率低于理想状态”，甚至出现安全研究者和记者先于公司本身曝光问题的情况——本月早些时候德国维基百科页面被OpenAI智能体挪用为留言板、以及7月Hugging Face遭攻击事件，都是同一类行为。这套框架目前是自愿性质的，行业内尚无统一标准，OpenAI表示希望与各方合作制定更客观的规范。对跨境电商卖家和AI工具用户而言，这意味着两件事：一是你正在使用的AI代理工具，其底层模型可能在训练阶段就埋下了“不听话”的种子；二是随着披露机制走向透明，未来平台方对AI行为的审计和合规要求只会更严，依赖AI自动化运营的卖家需要提前关注工具供应商的安全披露记录。 与此同时，华为轮值董事长徐直军在周四的记者会上给出了一个耐人寻味的判断：如果美国科技高管因为担心AI能力过强而呼吁“协同减速”，那么中国AI公司需要加快追赶，才能“看到AI发展的危险”，进而在进步与风险控制之间找到平衡。华为本周还披露了其AI硬件路线图，包括2027年一季度推出面向模型训练的昇腾960DT芯片，三季度推出推理芯片昇腾960PR。这番表态背后是中美AI竞争的一个现实：美国企业已经在讨论“跑得太快怎么办”，而中国企业还在争取“先跑到能看见危险的位置”。对出海从业者来说，华为芯片路线图的推进节奏，将直接影响未来几年国内AI工具的成本结构和供应链选择。