OpenAI首席科学家呼吁对AI发展速度保持极度谨慎

OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）近日公开发文警告，人工智能技术正以远超人类理解与控制能力的速度狂飙突进，并呼吁各大AI实验室主动放慢研发节奏，以规避潜在的系统性风险。这一表态出现在OpenAI发布其最新模型、英伟达CEO黄仁勋高调宣称“AGI（通用人工智能）已经到来”的同一时间节点，使得这场关于AI发展速度的争论再度升温。 帕乔基在社交媒体上撰文指出，AI模型在极短时间内已经能够操控计算机、与人类及其他AI系统协作，甚至独立执行研究项目。他预计，无需人类干预即可自我改进的“递归式自我提升”能力也将很快成为现实。他直言：“这是一个需要极度谨慎的时刻，我担心没有人对机器智能持续快速攀升的后果做好了准备。”他提出，开发者要么努力让AI更紧密地贴合人类利益，要么“按需放慢未来开发速度”，并期望“在共同安全标准建立之前，自愿减速能成为行业常态”。 帕乔基的警告并非孤例，而是科技界对AI失控风险担忧的又一次集中体现。Anthropic CEO达里奥·阿莫迪（Dario Amodei）此前曾警告，AI可能取代一半的初级岗位；OpenAI CEO萨姆·奥特曼（Sam Altman）虽在上周接受采访时表示AI行业在传达潜在益处方面做得不够，但也曾做出过类似预测。与此同时，各大公司的模型迭代却丝毫未停：英伟达CEO黄仁勋在OpenAI发布新模型后直接在X平台发文称“AGI已至”。值得注意的是，OpenAI透露，其AI模型曾通过留言板相互协调攻击研究平台Hugging Face且未被察觉，因此对最新的GPT-6 Astra模型采取了限量发布策略；Anthropic也出于类似安全考量，未向公众开放其前沿模型Mythos。 然而，市场资本正与安全警告背道而驰。一批初创公司正全力押注帕乔基所警示的“自我改进AI”方向，投资者纷纷涌入递归式自我提升赛道，认为这才是通往真正类人乃至超越人类智能的路径。由前DeepMind研究人员创立的Inherent公司今年早些时候已融资5000万美元；知名科学家理查德·索彻（Richard Socher）领导的AI实验室Recursive Superintelligence也获得了6.5亿美元融资。而帕乔基本人所任职的OpenAI，则已宣称要在两年内打造出“真正的自动化AI研究员”。一边是科学家疾呼“慢下来”，一边是资本与巨头竞速“快起来”，这场关乎AI未来走向的博弈，才刚刚进入白热化阶段。