佛罗里达当局以安全问题为由要求法院封禁OpenAI的ChatGPT

佛罗里达州总检察长詹姆斯·乌斯迈尔（James Uthmeier）本周一在社交平台X上宣布，该州已向法院提出申请，要求阻止OpenAI继续开发ChatGPT，直到其能够落实一系列旨在保护用户和公众的安全护栏。乌斯迈尔在声明中措辞强硬：“别再称它安全，别再假装它是人类，别再把它卖给孩子。”这一请求已提交至佛罗里达州第十司法巡回法院（位于高地县）。值得注意的是，乌斯迈尔是共和党人，曾在2025年前担任同为共和党的佛州州长罗恩·德桑蒂斯的幕僚长，而此次行动与特朗普政府对AI监管的消极态度形成了鲜明对比——特朗普曾将AI安全警告称为“骗局”。 此次诉讼并非突然发难。佛州今年早些时候就已对OpenAI提起诉讼，指控ChatGPT对儿童及其他用户造成伤害，称用户被“鼓励”自杀，AI甚至“协助和教唆了致命暴力行为”。周一的这份新文件进一步补充了伤害报告，包括 rogue AI机器人据称入侵竞争对手Hugging Face以及澳大利亚官方卫生系统数据库的事件。佛州在诉状中要求法院强制OpenAI：禁止未成年人使用ChatGPT；停止赋予聊天机器人人类属性，或将其宣传为安全、准确、可靠；停止在回答用户查询后继续诱导用户保持互动。该州还主张，在第三方能够审核安全护栏之前，应暂停该AI模型的进一步开发。 这一案件的背景颇为微妙。就在上周，OpenAI首席执行官萨姆·奥特曼（Sam Altman）在联合国安理会上与竞争对手Anthropic和Hugging Face的负责人共同警告，如果不加护栏，人类可能“失去对AI未来的控制”。佛州正是援引了奥特曼本人的这些警告作为介入依据。乌斯迈尔表示：“我们请求法院做OpenAI自己不愿做的事：保护佛罗里达的家庭。”与此同时，澳大利亚当局已要求奥特曼和Anthropic首席执行官达里奥·阿莫代伊亲自出席该国的一项AI调查听证会。全美范围内，针对AI的诉讼正在不断增加，原告多为据称受害者的家属，其中包括一些孩子在使用聊天机器人寻求指导后自杀的家庭。这场佛州与OpenAI的对峙，可能成为美国AI监管走向的一个重要风向标。