科技行业对协调放缓AI发展呼吁产生分歧
4 小时前 2 阅读来源:abcnews.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
科技行业在是否应该协调放缓AI发展的问题上出现明显分歧。近段时间以来,关于人工智能可能脱离人类控制的担忧持续升温,让这个原本停留在学术讨论层面的议题迅速进入公众视野。Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官山姆·奥特曼等头部AI公司掌门人先后表态,支持以某种形式为AI开发“踩刹车”,但Meta首席执行官马克·扎克伯格则明确反对协调放缓的思路,认为每家公司应自行确保技术安全。这场分歧的核心在于:AI安全到底应该靠行业自律、政府监管,还是国际协调来解决。
阿莫代伊提出的方案最为具体。Anthropic自2021年由一批从OpenAI出走的创始人创立以来,一直把自己定位为更注重安全责任的AI公司。阿莫代伊在近期一篇长文中建议,处于AI前沿的实验室应承诺向独立外部评估人员提供“类似员工的持续访问权限”——评估团队拥有办公室、门禁卡和公司笔记本电脑,可以实时监督安全实践。Anthropic和OpenAI都已承诺采纳这一做法。阿莫代伊还呼吁政府监管和干预,包括在美国及其他民主国家政府协助下推动前沿AI公司之间的协调,甚至主张与“威权政府”展开合作,并坦承与中国方面协调的难度很大。他表示,这些提议落实起来并不容易,但“我们对人类有义务去尝试”。
奥特曼的立场与阿莫代伊接近但措辞更谨慎。在阿莫代伊文章发表前几天,OpenAI发布长文,阐述公司正在推动强制性国家 safety 要求,并继续支持各州加强AI安全生态的立法。OpenAI全球事务主管克里斯·莱汉在文中写道,公司将倡导在能力测量、风险管理、人类控制权保留以及何时放缓或停止开发等问题上建立兼容的国际方案,“即使这意味着放慢模型能力的进步”。莱汉还描述了OpenAI理想的联邦监管框架:共同的测试和独立评估要求、更强的网络安全保护、明确的事件报告规则、更高的国家应急准备水平,以及追踪AI递归自我改进进展的共享机制。奥特曼在X上明确表示,“放缓”不等于“停止”,AI进步仍将很快,但“应该比原本可能的速度慢一些”,安全案例和监控等干预措施成本显著,但“这种代价非常值得”,并强调“任何美国竞争压力都不能成为鲁莽行事的理由”。
扎克伯格则代表了另一派声音。他对AI未来的判断比部分同行更乐观,明确反对协调放缓的思路,主张每家公司应独立确保自身技术的安全性。这一立场与Meta近年来在开源模型上的激进策略一脉相承——扎克伯格更倾向于通过技术扩散和竞争来推动安全,而非通过行业集体行动或国际协议来限制开发节奏。对于中国跨境电商卖家和AI工具用户而言,这场争论的走向将直接影响AI能力的迭代速度、API价格以及各国监管合规要求。如果协调放缓的主张占据上风,依赖AI提效的出海企业可能面临工具能力升级变慢、合规成本上升的局面;反之,若扎克伯格代表的加速派胜出,市场将迎来更激烈的模型竞争和更快的功能迭代,但安全风险也会相应放大。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
