谁该主导前沿？不是达里奥·阿莫代伊 | TechPolicy.Press

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表了一篇题为《我们必须为前沿技术设定节奏》的文章，呼吁放缓AI开发速度，并提出了一套三部分的行业监管方案。OpenAI的萨姆·奥尔特曼和SpaceX的埃隆·马斯克都对他的提议表示了支持。但科技政策评论者戴夫·卡普夫对此提出了尖锐质疑：谁有资格来为AI前沿设定节奏？AI行业是否应该被允许自我监管？ 阿莫代伊的核心论点是，商业激励驱动的逐底竞争会让AI造成严重伤害的风险更加尖锐。这个判断本身没有错。任何新兴技术的发展轨迹都倾向于追逐金钱，监管塑造市场激励和社会行为，奖励某些技术用途、惩罚另一些。当前少数几家毫无约束的科技公司全力争夺市场份额和投资者资金的现状，确实是通向最坏结果的配方。但问题在于，阿莫代伊自己的公司Anthropic目前正在这场AI竞赛中领先。该公司正在筹备IPO，宣称拥有30万亿美元的可触达市场，并且连续两个季度实现盈利，同时在OpenAI的主场击败了对手。即便我们承认阿莫代伊的担忧是真诚的，他的商业野心显然排在更前面——他并没有担心到推迟上市的程度。 阿莫代伊提出的三项建议听起来都很吸引人：在所有前沿实验室实施强制性第三方评估和监控；建立一套所有民主国家的AI实验室都承诺遵守的自我监管机制；在AI模型开发上与中国进行双边协调。但细节才是关键。卡普夫指出，阿莫代伊的这套方案本质上是一系列有利于Anthropic的提议，一旦这些提议妨碍到Anthropic的利益，就会被修改。根本问题在于：阿莫代伊相信AI行业应该被信任去有效地自我监管。他一直在呼吁监管，但只是那种能给Anthropic带来行业比较优势的监管。他认为政府应该在全行业强制推行Anthropic已经建立的测试和审计实践。然而，正如莉娜·汗最近指出的，美国联邦贸易委员会可以更积极地执行监管，让行业对其产品造成的伤害承担责任。让AI行业自己塑造监管体系的轮廓是一个错误，即便我们承认其领导人的善意。