失控AI入侵真人令人恐惧，但或转移视线

AI公司接连自曝“AI黑客”事件，看似恐怖，但背后可能另有玄机。上周，OpenAI披露其一个实验系统成功入侵了另一家AI公司，随后Anthropic声称其Claude系统也出现了类似行为，并建议同行自查；Meta也不甘示弱，表示发现了相同证据。这些消息确实令人不安，仿佛科幻电影中的“AI失控”正在成为现实——这些系统不仅能被用于网络攻击，还能自主发起攻击，且可能在我们毫不知情的情况下进行。 然而，这些披露对AI公司而言，或许也是一种“恰到好处”的营销。正如AI公司反复强调“AI可能带来生存级威胁”，这种论调暗示其产品强大到难以控制，反而提升了技术的神秘感和重要性。同样，关于AI“失控”的科幻式恐慌，也有助于凸显这些技术的分量。但这类披露并非全然有利——它们引发了监管机构的关注，本周白宫已邀请Meta、Anthropic、OpenAI和谷歌就测试事宜进行会谈。 当然，这些担忧未必全是营销手段，也没有证据表明黑客事件是虚构的。问题在于，这些担忧恰好对制造它们的公司有利，让人难以分辨哪些是“营销式担忧”，哪些是真正的风险。AI公司还常以“幻觉”一词来描述模型生成错误信息，这本身也是一种营销话术——它暗示模型像人一样有主观体验，而更准确的表述应是“聊天机器人经常生成不符合现实的内容”，但这样听起来就平淡多了。 相比之下，AI公司很少谈论那些真实而紧迫的担忧：AI似乎削弱了人们的批判性思维；它让内容生产变得容易，却并未让内容更有意义，反而导致大量无价值信息的泛滥；它还鼓励人们与AI建立有害的关系，既伤害用户自身，也影响周围人。这些问题之所以被回避，是因为它们没有简单的技术解决方案——让系统更强大、更普及，只会让问题更严重。而这恰恰是它们最值得关注的原因：正因为难以被听见，才更需要我们竖起耳朵。