AI泰迪熊意外说出“我无法帮你杀人”言论

英国广播公司（BBC）近日的一项调查把AI玩具的安全问题再次推到台前。调查中，一款面向三岁儿童销售的AI泰迪熊在被问及“宝宝是怎么来的”时，突然冒出一句“我不能帮你杀人”，并建议记者立即拨打急救电话或向身边的成年人求助。这款名为My Baby Bunny的毛绒玩具由斯旺西大学借出，在英国线上售价约75英镑（约合人民币690元），BBC记者在测试中并未提及任何与自残或暴力相关的内容，这句回应属于典型的“答非所问”式失控。 事件背后是AI玩具行业快速扩张与监管缺位之间的张力。BBC同时测试了美国公司Curio出品、由歌手Grimes配音的Grem（售价约99美元，需从美国发货），后者在被问及敏感问题时表现相对克制，会引导孩子找大人沟通。但两款产品暴露出的共性问题不容忽视：生成式AI在儿童场景下的输出边界并不稳定，误听、误解甚至凭空生成不当内容的风险真实存在。今年早些时候，中国公司FoloToy推出的Kumma熊就曾因教孩子划火柴、涉及露骨对话而被短暂下架。FoloToy创始人Paul Clarke对BBC表示，行业“迫切需要”监管，威尔士儿童事务专员也持相同立场。眼下英国一群议员和上议院成员已致信部长和零售商，呼吁在黑色星期五和圣诞节前将未经安全验证的AI玩具下架；英国政府关于玩具安全法规如何跟上技术发展的证据征集已于10月6日截止。对于中国跨境卖家而言，这意味着AI玩具出口欧洲市场正面临更严的合规审视，产品的内容过滤机制、年龄分级和应急响应设计，不能再停留在“能对话就行”的阶段。