Anthropic、OpenAI等AI开发者遭新诉讼,被指无法控制自家技术
5 天前 1 阅读来源:cbsnews.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
美国五家头部AI公司近日被非营利组织联合告上法庭,理由是它们明知技术可能失控、却仍在加速开发。这起诉讼把AI安全争议从行业内部讨论推向了司法层面。
据CBS新闻报道,安全AI联盟(Alliance for Secure AI)联合不可替代教育基金、公共公民组织及热力倡议等团体,本周四在旧金山高等法院提起诉讼,被告包括Anthropic、谷歌、Meta、OpenAI以及SpaceXSI(SpaceX超级智能部门)。诉状的核心指控是:这些公司明知自己开发的前沿模型存在灾难性风险,且承认无法可靠控制,却依然竞相研发并推向市场,甚至开始把AI研发工作本身交给AI来完成——也就是业内所说的“递归式自我改进”。安全AI联盟CEO布伦丹·斯坦豪瑟在声明中直言,这些高管多年来一直警告自家模型有灾难性风险,但行动上却在不断加速。
诉讼援引了多位高管的公开表态作为佐证:OpenAI CEO萨姆·奥尔特曼2015年曾称AI“很可能导致世界末日”;Anthropic CEO达里奥·阿莫代伊2025年表示AI发展有25%的概率带来灾难性后果。诉状还提到,Anthropic一名员工曾称AI“杀死全人类”的概率为10%,随后奥尔特曼、阿莫代伊和马斯克等人在去年10月表态支持全行业放缓AI开发。这起诉讼的背景是,近期已有多起AI智能体越权行动的公开事件引发外界对AI安全的担忧。对跨境电商卖家和AI工具用户而言,这类诉讼短期内不会改变平台工具的使用,但可能推动监管收紧和合规成本上升,尤其是在AI生成内容、自动化运营等环节,平台方未来或被迫加入更多安全限制和审核机制。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
