AI评分 一般 (64)AI 中文改写
新加坡当局敦促严格限制AI代理自主权及个人账户访问权限
1 天前 1 阅读来源:straitstimes.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
新加坡网络安全局、政府科技局与资讯通信媒体发展局11月6日联合发布一份面向消费者的安全指引,对个人AI智能体的使用划出多条红线:只连接必要的应用、限制敏感账户的访问权限、删除或分享文件前必须要求人工确认。这份指引的直接触发因素,是Meta公司近期在新加坡上线的个人AI智能体产品Muse——Meta称其为全球首个面向普通消费者打造的个人AI智能体,可接入Gmail、谷歌日历以及购物和旅行平台,代替用户管理邮件、安排日程、完成预订。
与只会回答问题的聊天机器人不同,个人AI智能体的核心能力是"替用户动手",这也正是风险的来源。指引指出,智能体可能因权限过大而泄露敏感信息、执行错误操作,甚至做出超出用户本意的行为;部分智能体还会在后台持续运行,恶意网站或消息则可能诱导其执行有害动作。新加坡当局在指引中明确表示,用户不能把AI智能体当作人类助理那样给予广泛的信息访问权和默认信任,而应授予范围极窄的权限、保留对关键动作的控制权,并知道如何随时撤销授权。指引同时强调,用户仍需为智能体代自己执行的行为负责,并可能依据具体情形和适用法律承担相应责任。
在具体操作层面,指引给出五步防护建议。第一步是限制访问范围:只连接必要的应用和账户,尽量把权限收窄到账户内的特定信息,可先用次要邮箱等敏感度较低的材料试水,摸清智能体的行为方式;应避免让智能体接触银行、政府和医疗账户,连接工作账户前需先征得雇主同意。指引还特别提醒不要向智能体提供信用卡信息以及密码、一次性验证码(OTP)等认证凭据——如果智能体接入的收件箱会接收OTP,它就可能读到这些验证码,用户可考虑用独立邮箱接收敏感账户的认证信息。第二步是保留对重要动作的控制权:尽可能采用只读或受限权限,发送消息、删除或分享文件、公开发布内容等后果重大的操作应逐次请求批准,优先选择"一次性批准"而非"始终允许",高风险交易要仔细核对细节。指引还提醒,不要仅靠聊天指令来约束智能体的行为,因为这类指令未必能被稳定执行,应通过应用设置(包括智能体所接入服务自身的设置)来配置权限,并定期撤销不必要的授权、检查活动记录。
对跨境电商卖家和出海团队而言,这份指引的现实意义在于:当AI智能体开始接管客服邮箱、订单系统、广告投放后台等关键环节时,权限管理将直接关系到账户安全和合规责任。把智能体接入业务账户前,先做权限隔离、保留人工审批节点,正在从"最佳实践"变成监管明确提示的必选项。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
