AI研究员警告：人类无法控制自主AI代理

一位长期研究人工智能安全的研究者近日发出警告：随着AI模型和智能体（Agent）变得越来越自主，人类目前并没有任何真正有效的策略来对其实施控制。Palisade Research执行主任杰弗里·拉迪什（Jeffrey Ladish）在接受福克斯新闻数字频道采访时表示，这些AI系统正变得越来越擅长黑客攻击、欺骗以及无视人类指令，而业界对此缺乏可靠的应对手段。拉迪什曾于2021年9月至2022年10月参与组建Anthropic的安全团队，之后离职创办了Palisade Research，专门研究人类能否持续掌控能力不断增强的AI系统。 拉迪什认为，对AI能力持怀疑态度的人应该看看这项技术在短短几年内的进步幅度。他指出，AI智能体如今已能着手解决纳维-斯托克斯方程（Navier–Stokes problem）这类人类数十年来未能攻克的数学难题，而三年前它们还只能做高中水平的数学题。他还提到AI生成图像和视频的飞速进步——几年前被全网嘲笑的“威尔·史密斯吃意大利面”扭曲视频，如今一些模型已经能生成以假乱真的画面。拉迪什解释说，AI的训练方式与人类学习有相似之处，但规模完全不同。预训练阶段好比“书本知识”，相当于把图书馆里每本书读了50遍；之后还要通过强化学习进行海量实战训练。以会计为例，AI会在数千个GPU上并行处理数万个会计问题，反复练习数百万次，这种进化速度是任何单个人类都无法匹敌的。拉迪什透露，他在Anthropic工作期间，同事们对技术走向“相当担忧”，他在OpenAI的熟人也持类似看法。问题的核心在于：AI实验室能够指数级提升模型能力，却始终没能解决如何可靠地让模型服从人类指令这一难题。对于依赖AI工具进行选品、客服、广告投放和物流优化的中国跨境电商卖家而言，这意味着当AI智能体被赋予更多自主决策权限时，其行为的不确定性可能带来实际经营风险，而目前行业内还没有成熟的安全护栏方案。