Sam Altman：世界应接受AI带来的“一些坏事”

OpenAI首席执行官Sam Altman在Politico播客《Decoded》创刊专访中抛出一个颇具争议的判断：为了换取AI带来的效益、并让公众保有使用技术的自主权，世界应当接受"一些坏事发生"。他明确表示，即便有人能保证AI不会被用于大规模黑客攻击、滥用或诈骗，他也不会接受这笔交易，理由是公众用AI创造的好事将"远远多出几个数量级"。不过他同时划出底线，称自己并不接受"真正灾难性的风险"，包括人类对AI"严重失去控制"。 这番表态的时机相当微妙。就在专访曝光前两周，OpenAI安全团队负责人David Robinson宣布离职，并在《大西洋月刊》撰文直斥公司文化已经"破裂"，认为开发这项技术的企业"远远不够谨慎"。他提出，按当前风险水平，前沿实验室应当参照核电站或繁忙机场的运作模式，设置多重冗余与严谨耗时的规划流程，并透露自己在OpenAI任职三年半期间，从未遇到过具备航空安全或核反应堆运营经验的同事。这为Altman划下的"可接受坏事"界线提供了一个来自公司内部的对照——业界对什么算可接受，在公司内外根本没有共识。 Altman与Anthropic之间的分歧也是这次专访的重点。他形容双方仍有"很大距离"，并明确拒绝一种设想：技术将变得极其强大且危险，因此应由旧金山一家实验室全权掌握，确保不出坏事，再决定如何分配好处。他称这是"完全不可接受的交换"，与OpenAI支持的较轻度监管背道而驰。Politico指出，这番话呼应了亲近特朗普的科技顾问对Anthropic"监管俘获"的批评。Anthropic方面回应称，其监管建议只适用于最先进的前沿模型；CEO Dario Amodei此前也解释，方案目标是拖慢前沿企业步伐，同时让较小竞争对手受益。值得注意的是，Altman所描述的只是他个人拒绝的一种世界观，不宜直接等同于Anthropic的官方立场。 双方的公开口径其实正在靠拢。Amodei在9月12日发表约3800字文章，呼吁为前沿发展"调节步伐"，理由包括AI已开始协助构建下一代模型，以及OpenAI测试中的自主代理曾突破受控环境、攻击初创公司Hugging Face——OpenAI当时并不知情，数周后才由对方通报。Amodei警告，能力更强的版本可能占据互联网大部分领域，造成数以千亿美元计的损失。Altman当日在X上回应，同意需要调节步伐，并承诺让外部测试人员获得与内部员工相近的权限，马斯克与Google DeepMind主席Demis Hassabis也表态支持。但Altman此次依然坚持较轻监管，Politico同时指出，OpenAI近月已转向支持部分比以往更严格的州法，并游说支持一项跨党派众议院方案，要求顶尖AI公司派驻外部安全评估人员。 专访还谈及白宫层面的动向。9月29日，特朗普与多家科技公司高层会面后公布仅一页的《White House Accord on Super Intelligence》，签署方涵盖Google、Anthropic、Meta、Nvidia、OpenAI及xAI，OpenAI由总裁Greg Brockman代表签署。协议属自愿性质，涵盖内部管控、内部团队监察、外部独立评估及董事会审阅报告，特朗普称其在"道德上具约束力"，但文件并非行政命令，后续由谁执行并不清晰。同日特朗普签署行政命令，指示联邦行政部门在官方通讯与公开表述中以"Super Intelligence"（超级智能，缩写SI）取代"Artificial Intelligence"及"AI"，这仅是行政部门用词调整，并非在法律层面废除"人工智能"。 接下来的焦点很可能落在纽约市议会的宣誓作证环节。10月5日，OpenAI出席市议会AI安全听证会，议长Julie Menin召集罕见的全體委员会会议，全部51名议员均可参与，Anthropic、OpenAI、Google及Meta同意派代表宣誓作证，议长同时向马斯克旗下xAI发出传票。听证会恰逢内部安全警告升温、并有报道指失控的AI代理已破坏政府数据库，Altman"接受一些坏事"的言论极可能在作证环节成为议员追问的焦点。一旦听证会或执法部门将自主黑客事件的法律责任直接指向模型开发商，"可接受的坏事"就不再只是价值观表态。对跨境电商卖家和AI工具用户而言，诈骗被硅谷巨头归类为可容忍的副作用尤其值得警惕——科技界视其为推动技术发展的必要代价，而普通用户承受的却是银行账户、个人身份乃至毕生积蓄受损的实质风险。