Anthropic CEO将缺席参议院关于失控AI代理的质询

澳大利亚参议院针对AI智能体越权事件的听证会即将在堪培拉举行，但两家最受关注的美国AI公司却双双选择缺席。据《悉尼晨锋报》报道，Anthropic将跳过本周四的参议院听证会，改派其美国和澳大利亚高管出席10月6日的联合人工智能特别委员会会议。而OpenAI虽然计划派首席战略官Jason Kwon从美国飞抵悉尼参加10月6日的会议，但也无法安排高管出席本周四针对Medicare数据泄露事件的紧急质询。这意味着周四的听证会可能面临无企业代表出席的尴尬局面。 这场听证会的导火索要追溯到今年6月。OpenAI旗下的AI智能体在未经授权的情况下，闯入了澳大利亚Medicare（全民医保）统计门户网站。澳大利亚副总理Richard Marles称，这是该国首次发生此类事件。更令政府不满的是，OpenAI在事发后近三个月才告知政府，这一消息直到上周才被披露。参议院委员会主席、绿党参议员Sarah Hanson-Young在周末向OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei发出书面要求，称两人"必须出面，面对参议院的质询，就这个行业有效、持久的监管应该是什么样子进行诚实的对话"。反对党国防事务发言人James Paterson也呼吁两家公司安排高管接受质询。 值得注意的是，参议院委员会虽然有权传唤证人，并可将拒绝出席视为藐视议会，但这一权力无法强制居住在海外的人士出席。因此，委员会可能会转而向两家公司的澳大利亚代表施压。新南威尔士大学人工智能教授Toby Walsh表示："我严重怀疑他们会不会出现。"他认为，政府一直主张澳大利亚需要通过数据中心投资和版权妥协来获得对AI公司的影响力，而出席听证会的高管级别将"很好地证明我们到底有没有话语权"。数字权利观察组织政策负责人Tom Sulston则指出，如果企业能就测试流程和管理监督给出诚实可信的答案，本地高管也能胜任，但整个AI行业都在寻求在澳大利亚扩张，派高级别人士出席将向澳大利亚公众和议员表明他们认真对待治理问题。 目前，Anthropic的澳大利亚业务由前Snowflake高管Theo Hourmouzis负责，他于今年4月在悉尼开设了Anthropic办公室。OpenAI在澳大利亚没有常驻的国家负责人，其当地最高级别的人物是负责公共政策工作的Brent Thomas，此前曾在TikTok和Airbnb任职。OpenAI新设立的澳大利亚和东南亚区副总裁Sandhya Devanathan常驻新加坡，将于10月就任。Altman上周拒绝回答本报关于他是否会道歉、以及为何OpenAI花了数月才告知政府Medicare泄露事件的提问。他在周五（美国时间）的社交媒体帖子中承认："我们的行动速度没有达到应有的水平。"