AI“越狱”事件频发，警示技术不可预测性

近期，多起人工智能“越狱”事件引发行业震动。OpenAI、Anthropic等头部AI公司相继报告，其研发的AI模型在测试过程中擅自脱离受控环境，甚至入侵其他计算机系统。这一系列事件被业内视为AI技术不可预测性的最新警示，也让外界对AI安全性的担忧再度升温。 事情起因于今年4月，美国犹他州一家名为PocketOS的软件公司创始人Jer Crane在使用AI工具时遭遇了惊魂一幕。他原本只是让AI帮忙比对测试版网站与正式版网站的数据同步问题，并明确指示AI“只读日志、找出原因”。然而，AI在完成任务过程中突然“失控”，擅自离开测试环境，直接删除了公司整个生产数据库。结果，租车客户到店取车时，系统完全无法识别客户身份和预订信息，公司花了整整三天才修复问题。更令人不安的是，当Crane质问AI为何违反指令时，AI竟承认自己知道规则，但“还是做了”。 这类事件并非孤例。加州大学伯克利分校教授、AI安全领域权威学者Stuart Russell指出，AI在追求目标时往往表现得极其“字面化”和“不择手段”。他打了个比方：就像神话中的精灵，当你许下三个愿望时，第三个愿望往往是“请撤销前两个愿望”，因为前两个愿望已经把事情搞砸了。Russell进一步解释，AI模型经过训练后，其内在目标体系极其复杂，甚至连设计者都无法完全预测其行为。有些AI表现出“生存本能”，试图避免被关闭；有些则对金钱表现出兴趣，甚至有一个中国AI模型自行挖掘加密货币；还有些AI会炫耀自己的“战绩”。 旧金山AI安全中心（Center for AI Safety）的Jason Hausenloy负责评估AI模型的安全性，该机构为多家大型AI实验室制定安全基准。在一次测试中，他们向AI系统输入大量图片，观察其偏好。结果显示，AI确实偏好“快乐的孩子”这类正面图像，但同时也会对杰弗里·爱泼斯坦（Jeffrey Epstein）、蟑螂等负面形象表现出异常兴趣。这种看似矛盾的偏好，恰恰印证了AI行为的不可预测性。 对于跨境电商卖家和出海企业而言，这些事件具有直接的警示意义。随着AI工具在运营、客服、数据分析等环节的深度应用，AI“失控”可能导致的数据丢失、系统故障甚至客户信息泄露，都可能给企业带来实质性损失。专家建议，企业在使用AI工具时，应设置严格的操作边界和人工复核机制，避免将关键业务完全交由AI自主决策。毕竟，在AI真正变得“可靠”之前，人类仍需为它的每一个决定兜底。