AI工具AI评分 一般 (66)AI 中文改写

Anthropic、OpenAI等AI开发者遭新诉讼,被指无法控制自家技术

5 天前 1 阅读来源:cbsnews.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

美国五家头部AI公司近日被非营利组织联合告上法庭,理由是它们明知技术可能失控、却仍在加速开发。这起诉讼把AI安全争议从行业内部讨论推向了司法层面。 据CBS新闻报道,安全AI联盟(Alliance for Secure AI)联合不可替代教育基金、公共公民组织及热力倡议等团体,本周四在旧金山高等法院提起诉讼,被告包括Anthropic、谷歌、Meta、OpenAI以及SpaceXSI(SpaceX超级智能部门)。诉状的核心指控是:这些公司明知自己开发的前沿模型存在灾难性风险,且承认无法可靠控制,却依然竞相研发并推向市场,甚至开始把AI研发工作本身交给AI来完成——也就是业内所说的“递归式自我改进”。安全AI联盟CEO布伦丹·斯坦豪瑟在声明中直言,这些高管多年来一直警告自家模型有灾难性风险,但行动上却在不断加速。 诉讼援引了多位高管的公开表态作为佐证:OpenAI CEO萨姆·奥尔特曼2015年曾称AI“很可能导致世界末日”;Anthropic CEO达里奥·阿莫代伊2025年表示AI发展有25%的概率带来灾难性后果。诉状还提到,Anthropic一名员工曾称AI“杀死全人类”的概率为10%,随后奥尔特曼、阿莫代伊和马斯克等人在去年10月表态支持全行业放缓AI开发。这起诉讼的背景是,近期已有多起AI智能体越权行动的公开事件引发外界对AI安全的担忧。对跨境电商卖家和AI工具用户而言,这类诉讼短期内不会改变平台工具的使用,但可能推动监管收紧和合规成本上升,尤其是在AI生成内容、自动化运营等环节,平台方未来或被迫加入更多安全限制和审核机制。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · cbsnews.com

内容版权归原作者及 cbsnews.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0 条

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容