萨姆·奥特曼称AI事故“遗憾地”不可避免

OpenAI首席执行官山姆·奥特曼本周二在一场公开对话中给整个AI行业泼了一盆冷水：随着能力越来越强的模型被部署到真实场景中，AI事故将“不可避免地”发生。他在Salesforce年度大会Dreamforce上与该公司CEO马克·贝尼奥夫对谈时表示，行业不应该假装事故不会出现，而是要建立一种像航空业那样公开报告、调查并从失败中学习的文化。奥特曼强调，他相信行业有能力自我监管AI安全，但前提是各方愿意把问题摆到台面上。 这番表态的背景值得注意。过去一年，OpenAI、谷歌、Anthropic等公司竞相发布更强大的大模型，AI被快速嵌入客服、编程、医疗咨询甚至军事决策辅助等场景，随之而来的是深度伪造诈骗、模型输出错误建议、数据泄露等真实事故的增多。与此同时，全球监管机构正在加紧制定AI安全规则，欧盟的AI法案已经落地，美国国会也在反复讨论是否要设立专门的AI监管机构。奥特曼此时主动承认“事故不可避免”，一方面是在为行业争取自我监管的空间——与其被外部强制立法，不如先建立内部通报机制；另一方面也是在给公众和客户打预防针：不要指望AI零失误。对跨境电商卖家和出海创业者来说，这意味着两件事：第一，你正在使用的AI选品、客服、广告投放工具未来可能出现更明显的错误，需要建立人工复核流程；第二，如果AI事故引发监管收紧，平台方可能会要求卖家披露AI使用情况，合规成本会上升。奥特曼把AI比作航空业，实际上是在暗示：这个行业需要自己的“黑匣子”和事故调查委员会，而谁来主导这套体系，将决定未来几年AI商业化的游戏规则。