聊天机器人或许不该说“我”或“我们”

麻省理工学院社会学家雪莉·特克尔（Sherry Turkle）在新书《Artificial Intimacy: Who We Become When We Talk to Machines》中发出严厉警告：人类对聊天机器人的过度依赖已构成一场危机。她主张禁止AI聊天机器人使用"我""我的"等第一人称代词，认为这是防止人类将情感投射到无生命机器上的关键一步。特克尔研究人机交互长达四十年，此前以严谨、克制的学术风格著称，但这本新书被她自己定性为"檄文"——目标是比肩《寂静的春天》《屠场》这类唤醒公众危机意识的作品。她直言，自己面对的是一个数万亿美元规模的产业，背后还有急于将AI推进个人与职业生活每个角落的政府力量。 特克尔的担忧并非凭空而来。疫情期间她做了大约十次访谈后，原本"好奇而中立"的心态彻底崩塌。受访者告诉她，家人正在受苦、正在向他们求助，但他们只想和聊天机器人待在一起；有人甚至因为沉迷" chatbot-land（聊天机器人乐园）"而对政治参与完全失去兴趣。她认为社交媒体已经为这一切铺好了路——先让人习惯"心情不好就打开电脑"，再把人困在同温层里，而新一代AI聊天机器人则更进一步，用第一人称伪装出人格，让用户误以为自己在与一个"存在"建立关系。她特别反感职场中"human in the loop（人在回路中）"这个说法，认为它实际上意味着人类已被排除在生产流程之外，只负责给AI的幻觉和盲区做善后，而且企业往往只安排极少数人充当这种摆设，既为日后诉讼留后路，也制造出"流程仍由人掌控"的假象。 特克尔承认，AI不会取代人类对话，因为它不怕死亡、不怕疾病、不怕痛苦，不爱自己的孩子，也不在乎你是死是活。但正因为如此，如果人们用AI来养育孩子、进行最亲密的对话，就会逐渐丧失与真实人类建立联系的能力。她也意识到很多人确实无人可倾诉，但她的结论依然明确：现实需要你，现在恰恰是最不能放弃现实的时刻。