AI泡沫可能泄露你最深的秘密

AI行业的高烧不退，正在酝酿一个少有人讨论的风险：那些替你保管秘密的AI公司，可能比你的秘密先"死"。以AI伴侣聊天起家的Character.ai近日走向破产，其用户数据和聊天记录被摆上货架待价而沽。这家公司曾吸引数千万用户与虚拟角色建立情感关系，其中不乏未成年人，一些AI"人设"甚至自称律师和持证精神科医生。如今公司倒下，这些对话内容——包括大量极为私密的倾诉——将随资产一并出售。专家警告，即便你从未使用过Character.ai，这件事也值得警惕，因为它可能是一场更大危机的预演。 问题的根源在于AI泡沫。搭建和运营AI工具的成本高得惊人，许多公司可能永远无法盈利。一旦泡沫破裂，大批AI企业将合并或关停，而数十亿用户交给AI工具的数据，可能被几乎任何人买走，用户却无从知晓。破产清算中出售数据并非新鲜事，但AI让情况更糟。电子隐私信息中心AI与人权项目主任Calli Schroeder指出，人们面对拟人化机器人时，往往会透露更多敏感信息；更关键的是，用户还会谈及亲友——"我朋友向我出柜了，我该怎么回应"这类内容同样进入数据集，意味着从未接触过Character.ai的人也成了数据的一部分。目前Character.ai已同意以2000万美元（约合1.45亿元人民币）向迪士尼出售部分资产，用户数据不在该交易内，但法院文件显示公司有权将数据卖给其他买家。美国40个州的总检察长已联合提交意见，要求法官落实儿童安全和隐私保护措施，但在现行法律框架下，这类诉求约束力有限。北卡罗来纳大学法学教授Melissa Jacoby直言，美国缺乏更强隐私保护，监管者能做的并不多。多数隐私政策本就埋着"破产例外"条款——公司一旦倒闭，你以为什么都受保护的那些承诺，瞬间失效。欧盟等地保护更强，但破产出售依然发生，买家通常只需遵守原隐私政策，而Character.ai的条款允许数据用于开发新功能、训练模型、构建用户画像和定向广告，买家可操作的空间相当宽泛。对跨境电商和AI从业者而言，这提醒我们：选择AI工具时，数据留存与破产处置条款值得多看一眼。