谷歌DeepMind成立研究所 扩大AGI讨论范围

谷歌和谷歌旗下AI研究机构DeepMind的研究人员本周三联合发起了一个名为DeepMind Institute的新机构，目标是把围绕通用人工智能（AGI）的讨论推向更广的公共视野。该机构由DeepMind联合创始人Shane Legg、谷歌高管James Manyika和DeepMind主席Demis Hassabis共同担任董事，Legg兼任执行主编。值得注意的是，这个机构并不打算输出统一立场，而是刻意呈现谷歌、DeepMind与全球研究社区之间的分歧。官方声明直言：“他们不会始终意见一致，随着前沿领域数据和信息快速更新，他们也很可能会改变想法。” 首批发布的是四篇 essays，覆盖的议题相当具体：如何用经济政策应对AGI可能带来的冲击、如何保留人类可读的模型推理过程、人类繁荣的原则框架，以及前沿AI模型的评估体系。其中一篇由DeepMind安全研究员Rohin Shah和Anca Dragan撰写，核心观点是AI透明度的收窄并非不可避免。随着新架构让最强模型越来越难以被监控，作者认为开发者和监管者应当直面安全上的取舍，比如限制模型在不输出可读推理轨迹的情况下能执行的“不透明串行深度”，或者要求开发者证明透明度更低的系统同样可被监控。另一篇由Hassabis亲自执笔，提议建立一个由美国主导的前沿AI标准机构，对最先进的模型进行评估。按照他的设想，开发者最初在模型发布前30天自愿提交审查，等评估体系被证明有效后，通过测试可能成为在美国部署前沿模型的硬性要求。该机构初期会与AI公司协商设计评估方案，但最终会开发独立且不公开的“留出测试”，防止实验室针对已知评估标准来定制模型。Hassabis还表示，这套框架可以“根据事态的严重程度逐步加码”，极端情况下甚至包括前沿AI开发者之间的协调减速。 这四篇文章出炉的时机耐人寻味。整个行业的安全讨论正在从泛泛的担忧声明，转向具体的披露要求、外部审查机制，以及一旦保障措施跟不上就协调减速的预案。这一转向本周明显加速，多位行业领袖对Anthropic CEO Dario Amodei提出的“为前沿AI发展设定节奏”的呼吁表示了某种程度的认同。对于中国跨境电商卖家和AI从业者而言，这意味着未来面向美国市场的前沿AI模型可能面临更严格的发布前审查和透明度要求，依赖这些模型做选品、客服、内容生成的工具链，其合规成本和可用性都可能受到影响，值得提前关注政策走向。