Anthropic CEO称AI反弹是信任危机而非沟通危机

Anthropic CEO Dario Amodei 近日发布长文《Policy on the AI Exponential》，直接回应了日益高涨的AI反对声浪。与许多同行将公众担忧归咎于媒体负面报道或行业领袖的悲观论调不同，Amodei 明确表示：问题不在沟通，而在产品本身。他认为，公众对AI的焦虑并非源于危言耸听，而是基于真实且记录在案的风险。这位OpenAI前研究副总裁的诊断是：AI行业正面临一场信任危机，而非沟通危机。 在文章中，Amodei 列出了他认为值得严肃对待的四类风险：网络安全威胁、生物武器开发、人类对AI系统失去控制，以及完全自动化的研发可能。他直言，外界普遍认为AI领袖的警告吓坏了公众，但这种逻辑是颠倒的——人们之所以担忧，是因为警报本身是合理的。为了佐证这一立场，他提议对使用大量算力训练的模型进行强制性第三方评估，测试覆盖上述四类风险，在AI实验室和公众之间建立独立的验证层。 Anthropic 不仅停留在表态层面，还拿出了真金白银。公司已承诺投入2亿美元用于研究AI对社会的广泛影响，资助范围远超技术安全领域。Amodei 还明确呼吁建立工资再保险计划和针对性税收措施，以缓解AI自动化预期带来的劳动力市场冲击。在接受ABC新闻独家采访时，他进一步提出了政策建议，其中最引人注目的是赋予政府机构暂停被认为不安全的AI部署的权力。他特别援引了美国联邦航空管理局（FAA）的监管模式作为参考框架——航空安全监管并未摧毁航空业，反而让飞行成为地球上最安全的大众交通方式。