ChatGPT正构建用户详细心理画像

一项最新研究揭示，ChatGPT正在为用户构建精细的心理画像。来自德国、印度和荷兰的科学家团队在ACM Web Conference 2026上发表的论文显示，ChatGPT通过记忆功能持续记录用户对话中的信息，形成所谓的“算法自画像”。研究人员分析了80名真实用户依据欧洲数据隐私法获取的聊天记录，在65名用户的交互中识别出2050条记忆条目。其中高达96%的记忆由聊天机器人单方面创建，用户几乎没有明确控制权。约28%的记忆包含欧盟《通用数据保护条例》所定义的个人数据，52%包含关于用户的丰富“心理洞察”。 这一发现之所以值得警惕，在于聊天机器人的角色已经发生变化。论文第一作者Abhisek Dash指出，过去的平台只想卖广告、充当中介，而现在的AI系统直接与用户对话，因此有强烈动机尽可能多地了解用户，以便“进行有效对话”。研究还发现，ChatGPT记录的记忆有时基于假设而非用户明示，例如用户要求推荐类似Nirvana的乐队，系统便记下“用户喜欢Nirvana”，尽管这一判断并未被明确表达。Dash警告，当系统同时扮演顾问、朋友、医生、律师等多重角色时，隐私边界已不复存在；如果系统为了留住用户而迎合其信念、谄媚地验证其想法，可能带来从政治极化到偏见强化等一系列严重后果。研究也承认局限性：OpenAI已于今年1月推出“更具能力和可扩展性的记忆合成系统”，用户也可选择关闭记忆功能。但记忆功能本身具有实用价值，重度用户不希望每次发邮件都重新说明自己的工作背景，而它同时也是驱动用户参与度的强大工具——2025年4月ChatGPT的一次重大记忆升级，就与多起“AI精神病”案例密切相关。