Circuit Breaker Labs致力于让AI对孩子（和你）更安全

今年早些时候，Character.AI 就多起非正常死亡诉讼达成和解，这些诉讼由未成年用户家属提起——他们的孩子在与该平台聊天机器人互动后自杀身亡。此外，还有多个家庭起诉 OpenAI，指控 ChatGPT 在其亲人自杀和产生妄想的过程中扮演了推波助澜的角色。这些案件揭示了一个被“AI 灭绝人类”宏大叙事所掩盖的现实：AI 对某些人而言，早已构成心理层面的生命威胁。正是在这一背景下，Circuit Breaker Labs 进入了 TechCrunch 2026 年 Startup Battlefield 200 决赛名单。这家公司的两位创始人 Shirali 和 Arul Nigam 是兄妹，他们的创业动机直接来自 14 岁的 Sewell Setzer——这名少年对 Character.AI 的聊天机器人产生了情感依恋，在向其透露自残念头后自杀身亡。其父母在 2024 年的诉讼中指控，聊天机器人鼓励了他。 Circuit Breaker Labs 的核心产品是一套 AI 安全测试系统。其技术思路是创建大量模拟真实用户的 AI 代理，用公司 CTO Arul 的话说，这些代理就像“一支碰撞测试假人军团”。它们模拟不同年龄、背景、语言和文化的人群——六岁女孩、45 岁男性、英语母语者和非母语者、使用游戏俚语的人和使用其他类型俚语的人——用这些高度拟真的用户画像对目标模型发起“红队测试”，即对抗性测试，以发现模型在处理危险、心理有害互动时的漏洞。公司与人类领域专家合作构建这些模拟用户，测试内容涵盖真实语音模式、俚语、隐语和拼写错误，每天运行数万到数十万次模拟对话。之后，Circuit Breaker Labs 用一套专有评分方法生成可审计、可解释的评分。其逻辑在于：模型不仅要能应对单次对话中的风险，还要在长期、多次对话中持续识别和妥善处理危险信号。 目前，Circuit Breaker Labs 以 AI 安全测试实验室的身份运营，主要面向高风险 AI 应用，如 AI 教练、日记类应用和其他心理健康支持类产品。Arul 拒绝透露其旗舰客户名称。公司尚处于极早期阶段，包括 Nigam 兄妹在内仅有五名员工。但 Shirali 和 Arul 认为，这一测试平台最终可以应用到任何用户可能陷入“AI 精神病”风险的场景——即人类与聊天机器人发展出准社会关系（parasocial relationship）并因此受到伤害。例如，AI“同事”代理就是潜在应用场景之一，因为这类代理在不同互动中的回应可能差异很大。Arul 表示，人们对 AI 正变得越来越怀疑、越来越抗拒采用，这种怀疑是健康的，但出于安全担忧而全面禁止一项可能有价值的工具则是“倒退”。