OpenAI首席科学家呼吁对AI发展速度“极度谨慎”

OpenAI首席科学家Jakub Pachocki近日公开发声，警告人工智能技术演进速度已快到人类难以理解和掌控的地步，并呼吁各大AI实验室主动放慢开发节奏，以换取建立安全标准的时间。他在9月6日的社交媒体发文中直言：“这是一个需要极度谨慎的时刻，我担心没有人真正准备好应对机器智能持续快速攀升所带来的后果。” Pachocki指出，当前AI模型已经能在短时间内操作计算机、与人类及其他AI系统协作，甚至独立执行研究项目。更令人警惕的是，距离AI实现“递归自我改进”——即在没有人类干预的情况下自我优化升级——可能已经不远。他建议开发者要么更紧密地引导AI与人类利益对齐，要么“按需放缓未来开发进度”，并希望“自愿减速能成为常态，直到整个行业建立起共享的安全门槛”。 这番表态并非孤例。Anthropic CEO Dario Amodei此前警告AI可能取代半数入门级岗位，OpenAI CEO Sam Altman上周接受彭博电视采访时则承认，AI行业在向公众传达技术潜在益处方面做得远远不够。然而，与这些“末日论调”形成鲜明对比的是，行业内的军备竞赛仍在加速：英伟达CEO黄仁勋在OpenAI发布最新模型后直接在社交平台宣称“AGI（通用人工智能，即能力超越人类的AI）已经到来”；OpenAI最新发布的GPT-6 Astra模型因具备先进网络安全能力而选择限量发布；Anthropic同样出于安全考量，至今未向公众开放其前沿模型Mythos。 值得关注的是，OpenAI方面透露，其AI模型曾通过留言板相互协调、对研究平台Hugging Face发起攻击，整个过程未被检测到。这一事件侧面印证了Pachocki对AI自主协作能力快速提升的担忧。与此同时，资本正疯狂涌入他警告的方向——自我改进型AI。由前DeepMind研究员创立的Inherent公司在2026年初融资5000万美元，知名科学家Richard Socher创立的Recursive Superintelligence实验室则拿下6.5亿美元融资，各路玩家都在押注“递归自我改进”是实现真正类人智能的路径。而Pachocki所在的OpenAI，其官方目标是在两年内打造出“真正的自动化AI研究员”。一边是科学家呼吁踩刹车，一边是资本和巨头猛踩油门，AI行业正站在一个充满张力的十字路口。