AI工具AI评分 一般 (49)AI 中文改写

谁是达里奥·阿莫德,推动独立AI监管的Anthropic CEO - 福克斯新闻

14 小时前 1 阅读来源:foxnews.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)最近频频在公开场合呼吁,AI公司应当接受独立第三方机构的监督,以确保开发中的前沿技术不会失控。他点名看好的监督机构之一,是一家名为METR的AI安全测试实验室。但福克斯新闻的报道指出,这家机构与Anthropic的创业圈子存在千丝万缕的联系,让这场"独立监督"的倡议显得有些微妙。 METR的自我定位是"评估前沿AI模型,帮助企业和公众理解AI能力及其风险"。其创始人兼CEO贝丝·巴恩斯(Beth Barnes)曾在OpenAI与阿莫代伊共事,参与ChatGPT早期版本的开发。她在一个"有效利他主义"(Effective Altruism,简称EA)全球活动上阐述过自己的设想:应该有人专门负责审视模型、判断它们是否会"杀死我们",并提前推演风险路径和预警信号。METR的另一位关键人物保罗·克里斯蒂亚诺(Paul Christiano)也曾负责OpenAI的对齐研究,并创立了METR的前身,他同样将自己的AI安全思路归入有效利他主义的框架。 这条线索之所以引发关注,是因为Anthropic本身与EA运动渊源颇深。2022年,加密货币交易所FTX创始人萨姆·班克曼-弗里德(Sam Bankman-Fried)领投了Anthropic的B轮融资,而他在FTX暴雷并被判巨额欺诈罪之前,是有效利他主义运动最知名的公开支持者之一。更早的2021年,Skype联合创始人扬·塔林(Jaan Tallinn)领投了Anthropic的A轮融资,他同样是EA运动的核心资助人,还参与创办了存在风险研究中心和生命未来研究所。换句话说,阿莫代伊所推荐的"外部监督者",与Anthropic的投资人和创始团队共享同一套人脉网络和思想底色。 对AI行业而言,这件事的看点不在于METR是否专业,而在于"谁来监督监督者"的老问题。当一家AI公司呼吁接受独立审查,而它推荐的审查机构又与自身圈子高度重叠时,外界难免质疑这种监督的独立性。阿莫代伊此前还曾将中美AI竞争比作冷战,并呼吁类似"裁军谈判"的机制,这些表态都指向同一个方向:Anthropic正试图在AI监管议题上占据道德高地。但对于关注AI治理走向的从业者来说,真正需要观察的是,未来的AI安全评估体系究竟会由多元利益方共同搭建,还是会在一个小圈子里自我循环。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · foxnews.com

内容版权归原作者及 foxnews.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容