纳斯达克开盘钟声敲响,Anthropic CEO重申致力于稳步推进AI发展 | TechCrunch
11 小时前 1 阅读来源:techcrunch.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
Anthropic周四登陆纳斯达克,创下史上最大规模IPO纪录。在开盘钟声敲响前的演讲中,CEO达里奥·阿莫代伊重申了公司对负责任开发AI的承诺,明确表示不会屈从于商业或政治压力,将确保AI“始终处于人类控制之下”。
阿莫代伊的这番表态有其个人背景。他回忆说,父亲死于一种几年后便已可治愈的疾病,这促使他最初投身生物学研究,希望加速未来疗法的诞生。但在实验室里,他目睹了科学家面对疾病机理时的巨大复杂性,也意识到基因编辑、基因合成、光控脑细胞等关键工具最初都源自纯粹的思考与智能。正是基于“用最强技术造福人类”的信念,他与联合创始人共同创办了Anthropic。不过,阿莫代伊本人也多次警告AI发展过快带来的风险。去年9月,他曾提出一套“控制AI发展节奏”的方案,包括与头部公司协调安全标准、引入第三方评估机构核查企业是否履行安全承诺。OpenAI的萨姆·奥尔特曼、谷歌DeepMind的德米斯·哈萨比斯以及xAI的埃隆·马斯克均表示认同其立场,但迄今落地的具体承诺寥寥。
在当天演讲中,阿莫代伊再次强调技术进步与安全保障必须并行。他提到AI落入恶意行为者(无论是个人还是国家行为体)手中的“非常真实的风险”,以及可能引发的“经济颠覆”和“失去对AI系统的控制”。他认为这些风险并非不可避免,前提是建立防护机制。Anthropic将继续投入AI对齐与测试工作,开发理解AI行为的新方法。阿莫代伊的表态是:“我们将控制AI系统的训练和部署节奏,需要多长时间,就花多长时间,直到我们有信心它们是安全的、并且始终处于人类控制之下。”其妹妹、Anthropic联合创始人达妮埃拉·阿莫代伊同日对CNBC表示,风险虽真实存在,但AI的前景同样“不可思议”,公司从创立之初就把缓解风险视为己任。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
