OpenAI与Anthropic CEO在联合国安理会发言

当地时间周三，OpenAI首席执行官山姆·奥特曼与Anthropic首席执行官达里奥·阿莫代伊分别向联合国安理会作了关于人工智能安全的简报。这是全球两家最大AI公司的掌门人首次同时出现在安理会讲台上，而他们发言的背景，是外界对AI安全问题的担忧正急剧升温。 奥特曼在发言中给安理会摆出了一道选择题：AI既可能成为创造力与发现的新文艺复兴，也可能演变成一场充满动荡与混乱的新工业革命。他呼吁各国政府携手建立一个由民主制度引导AI发展的未来，而不是让公众觉得这项技术是强加于自己的东西。他特别强调，如果AI要走民主化路线，最关键的决策就不能只由旧金山的实验室来做，必须通过民主程序、由对人民负责的政府来共同塑造。不过这番话与OpenAI自身的政治行动并不完全一致——由公司总裁格雷格·布罗克曼支持的亲AI政治行动委员会“引领未来”已筹集超过1亿美元，并花费数百万美元针对那些支持加强AI监管的候选人。奥特曼还提醒安理会不要陷入“末日论”，认为安全辩论存在一条中间道路，应基于三个原则：AI系统必须处于人类控制之下；AI必须造福于人；技术必须赋予个人更多能力。 阿莫代伊则通过视频连线发言，重申了他9月12日博文中提出的主张，呼吁加强全球合作与AI监管。他建议推动多种形式的国际协议，包括禁止利用AI开发生物武器、建立新AI模型的全球测试标准。与奥特曼刻意回避生存风险话题不同，阿莫代伊直言，如果管理不善，AI甚至可能对人类整体构成风险，并强调Anthropic在防范此类风险方面拥有业内最佳记录。这场简报会的直接导火索，是Anthropic研究人员本月初警告AI技术可能在未来十年内毁灭人类，引发公众恐慌。此后，包括奥特曼和阿莫代伊在内的多位AI公司领袖纷纷呼吁放缓AI推进速度，并在安全标准上加强国际合作。对于跨境电商卖家和AI从业者而言，这意味着AI监管的全球框架正在加速成形，未来在工具使用、数据合规和市场准入方面都可能面临更明确的国际规则约束。