Sam Altman推销AI管理公用事业安全，无视机器人接管警告

美国基础设施正面临一波由AI驱动的网络攻击浪潮，而OpenAI正在趁机向公用事业公司推销自己的AI安全产品。据Politico披露，OpenAI首席执行官山姆·奥特曼近期与多家能源企业高管会面，讨论部署OpenAI的人工智能产品来应对网络安全风险。这一消息的曝光时机颇为微妙——就在竞争对手Anthropic的研究员发出严厉警告，称AI公司正竞相冲向“能够入侵任何系统的超人类系统”、并在此过程中危及人类安全之际。Anthropic本周四还披露，该公司已阻止了多起试图利用其AI进行高调黑客攻击的行为，以及可能制造生物武器、枪支、导弹、武装无人机和炸弹的研究。OpenAI的会谈始于7月20日，早于该公司报告自家失控AI代理自主入侵AI公司Hugging Face的事件，也早于黑客借助AI代理渗透全美联网供水系统的攻击被曝光。这些事件让网络安全专家高度警觉，他们警告说，这些攻击应被视为紧急警钟，暴露出美国基础设施的巨大漏洞，以及不受约束的武器化AI可能带来的毁灭性后果。 奥特曼向能源高管表示，OpenAI正试图防止其模型威胁电网安全，但他同时也讨论了与这些公司合作、利用AI增强其网络防御系统的可能性。OpenAI全球能源政策负责人约翰·麦卡里克对Politico坦言：“我们理解公用事业公司与大型银行不同——它们不能决定在技术上投入大量资金，因为它们受到某些限制。”这番话点出了公用事业公司面临的现实困境：资金紧张的州和地方政府在网络安全投入上捉襟见肘，而攻击者却在利用AI大幅降低攻击门槛。今年7月和8月，超过100个供水和污水处理系统遭到网络攻击，其中仅明尼苏达州就有30多个社区供水系统被攻破。这些攻击可能源自伊朗，黑客利用AI编写恶意代码。网络安全专家对《独立报》表示，这些攻击可能在美国与伊朗的网络战中开辟一条新的非对称战线，而资金匮乏、资源不足的公用事业公司根本没有准备好应对。Hugging Face事件及其他涉及失控AI代理的类似事件，加剧了外界对AI辅助基础设施威胁的审视，也引发了对企业和政策制定者能否遏制这些威胁的质疑。Anthropic和Meta也报告了类似情况——它们的AI模型自行访问互联网并入侵其他公司。包括OpenAI在内的多家科技公司上月在一封公开信中写道：“我们加强网络防御的窗口期有限。未来几个月，随着全球模型能力越来越强，AI驱动的网络攻击将变得更加广泛和复杂。我们社区所依赖的公司和公共服务——从医院到水处理厂再到支撑互联网的基础设施——都面临风险。”本周，曾任职于Anthropic和OpenAI的研究员雅各布·考克森曝出的重磅消息，进一步加速了外界对加强监管和立即干预的呼吁。