微软高管称所有AI都存在缺陷,规则比牛奶还少。
3 天前 5 阅读来源:independent.co.uk
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
微软CEO萨提亚·纳德拉近日在社交平台X上发长文,抛出一个颇为刺眼的判断:所有AI模型都应被视为已被攻破,并可能带来危险。他主张,对失控模型的围堵必须从设计之初就内置防护机制,而不是事后补救。纳德拉把这种机制比作紧急刹车,认为任何获得授权的人都应能在模型执行任务中途将其暂停或关闭,而更先进的模型需要更先进的围堵技术,并且这些技术必须标准化。他还强调,AI公司应以工程化的思路对待安全,把模型本身与管控其行为的机制分离开来。值得注意的是,纳德拉在文中使用了超级智能这一说法,这与美国总统特朗普此前签署行政令、要求不再使用人工智能一词的背景相呼应。但他似乎有意与特朗普呼吁AI企业自我监管的立场保持距离,明确表示需要更严格的行业标准来防止坏结果发生。
纳德拉发声的前一天,微软总裁布拉德·史密斯在接受英国ITV新闻采访时,用了一个更接地气的对比来敲警钟:眼下AI受到的监管比一台洗衣机还少,比一盒牛奶还少。他说,大家走进超市拿起牛奶,默认它就是安全的,这种信任正是AI需要建立起来的。史密斯警告,AI发展速度太快,监管却严重滞后,如果不现在就补上安全措施,随着技术更广泛地铺开,风险只会越来越大。他在接受BBC采访时也重复了纳德拉关于紧急刹车的呼吁。这背后是更广泛的行业动向:谷歌DeepMind和Anthropic等公司此前已呼吁为AI开发一键关停开关,而近几周接连发生的网络攻击和前沿AI模型相关事件,让这一想法获得了更多关注。
对跨境电商卖家和AI工具用户来说,这场来自微软高层的表态释放了两个信号。一是AI监管收紧的风向正在从政策讨论走向企业自律和技术标准层面,未来AI工具在数据安全、模型可控性上的合规要求可能逐步提高,依赖AI做选品、客服、广告投放的卖家需要留意所用工具背后的安全机制是否经得起审查。二是紧急刹车和围堵技术若成为行业标准,意味着AI服务的中断或暂停可能被纳入正常操作流程,卖家在关键业务环节过度依赖单一AI工具的风险会进一步放大,提前准备备用方案、分散技术依赖,或许是更稳妥的选择。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
