达里奥·阿莫代伊的AI卡特尔

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表文章，呼吁AI公司和美国政府"控制前沿发展节奏"，主张通过企业自愿合作加政府监管的方式放缓人工智能的开发速度。他给出的理由是：不受约束的AI发展可能导致经济动荡、毁灭性的生物或网络攻击，甚至人类失去对AI系统的控制。阿莫代伊并非无名之辈——他曾在OpenAI任职，后因认为OpenAI不够重视安全而离职创办Anthropic，一直以"安全派"形象示人，2023年就向参议院司法委员会作证称AI可能在网络安全、核技术化学和生物学领域被大规模滥用，并建议对AI模型开发实施监管控制、建立测试审计制度和加大测量研究投入。 但问题在于，这套看似利他的政策主张，最终受益者恰恰是Anthropic自己。文章指出，阿莫代伊力推的"嵌入式评估员"制度，其青睐的评估机构与Anthropic和他本人存在直接利益关联。调查Hugging Face事件的METR机构声称不从AI公司拿钱，但部分资金来自Open Philanthropy，而该组织联合创始人霍尔登·卡诺夫斯基如今就在Anthropic工作，且与Anthropic总裁丹妮拉·阿莫代伊（达里奥的妹妹）是夫妻关系。Anthropic还另聘埃森哲作为评估方，五年合同金额高达10亿美元。这些监管措施的本质是筑高行业门槛——繁琐的合规要求会让初创公司难以承受，只有资金雄厚的成熟玩家才能满足，开源模型更是首当其冲。换句话说，打着安全旗号的"控制节奏"，实际上是在为现有巨头打造一座AI卡特尔，把后来者挡在门外。