OpenAI CEO奥特曼：AI可能失控

OpenAI首席执行官山姆·奥特曼近日在社交平台X上发帖，罕见地公开表达了对AI失控风险的深度忧虑。他在凌晨近一点发出的帖子中写道，AI的发展可能以两种方式走向糟糕的结局：一是人类失去对未来的控制权，AI不再服务于人；二是权力过度集中，某个个人或公司利用超级AI将自己的世界观强加给所有人，形成极度反乌托邦的局面。奥特曼强调，避免这两种威胁需要走一条狭窄的中间道路，既要防止某个国家获得过大权力，也要防止某个实验室独揽大权。他明确表示，OpenAI“毫不道歉地站在人类这一边”。 这番表态并非孤立事件。就在两天内，Anthropic首席执行官达里奥·阿莫代伊发表了一篇3800字的长文，同样呼吁放缓AI模型能力的提升速度，以便让风险防控措施有时间跟上。奥特曼随后回应称自己同意这位竞争对手的观点。更早之前，两名AI研究人员的公开警告已经为这场安全讨论埋下伏笔：Anthropic前员工雅各布·考克森宣布辞职，直言Anthropic和OpenAI在开发强大AI系统时都没有采取负责任的行为；Anthropic对齐科学负责人埃文·哈宾格则回应称考克森说得对，并认为这项技术“杀死全人类”的概率超过10%。不过，美国总统特朗普周日对此类安全担忧表达了不同立场，称美国在AI领域领先中国，“谁赢得AI谁就赢得一切”，明确表示希望保持这一优势。 这场来自AI行业内部的集体预警，迅速传导至资本市场。周一美股开盘前，AI相关股票承压，闪迪下跌5%，英伟达下跌3%。约克维尔艾维斯创始合伙人丹·艾夫斯对此评论称，阿莫代伊的文章和周末的讨论可能在开盘时引发一些疲软，但很快会反弹，因为投资者会意识到，尽管剧情像肥皂剧，但这并不会改变未来几年在AI领域投入5万亿美元的大趋势。对于中国跨境电商卖家和AI从业者而言，这一信号值得关注：一方面，头部AI公司主动呼吁“减速”，可能意味着未来模型能力的开放节奏、API调用的能力上限以及合规审查都会趋于保守；另一方面，围绕AI安全和权力集中的讨论升温，也可能推动各国监管政策进一步分化，出海企业在选择AI工具和部署技术方案时，需要更密切地跟踪政策风向和平台方的能力调整节奏。