加州大学伯克利分校计算机科学家谈智能体AI的机遇与风险

UC Berkeley计算机科学家谈Agentic AI的机遇与风险 当大语言模型（LLM）不再只是被动应答的聊天机器人，而是能自主规划、调用工具、执行多步骤任务时，AI技术将迎来怎样的质变？8月初，加州大学伯克利分校举办的Agentic AI Summit 2026峰会上，来自OpenAI、Google、Amazon、Meta等头部公司的研究者与伯克利学者齐聚一堂，共同探讨这一被称为“AI下一阶段”的技术方向。伯克利计算机科学教授、负责任去中心化智能中心联合主任Dawn Song在接受采访时指出，Agentic AI（智能体AI）正在从“工具”进化为“协作者”，但其安全性、可靠性和民主化问题同样不容忽视。 传统大语言模型和聊天机器人的核心能力是“生成”——根据用户提示输出文本、代码或分析结果，本质上仍是被动响应。而Agentic AI的关键突破在于“行动”：系统能够自主推理、制定计划、调用外部工具（如计算器、搜索引擎、代码执行环境），并在动态环境中不断调整策略。Dawn Song用了一个形象的比喻：传统AI像是你向它“问信息”，而Agentic AI则是你委托它“达成目标”。例如，一个智能体可以自行识别出“乘法运算”是数学问题，然后调用计算器获取准确答案，而非依赖模型自身的预测能力。这种转变意味着AI系统将能处理更复杂的任务，从科学研究、医疗诊断到软件工程和教育领域，都可能迎来效率的跃升。 然而，能力的提升也伴随着新的风险。Dawn Song强调，Agentic AI的自主性带来了独特的安全挑战：当系统能够自主决策并采取行动时，其行为边界、可靠性保障和治理机制都需要重新设计。她认为，这些挑战不应被视为障碍，而是推动下一代AI系统基础研究的机会。伯克利正在通过Agentic AI Summit和面向公众的MOOC（大规模开放在线课程）系列，将前沿知识从象牙塔带向更广泛的人群，确保AI的发展不仅由少数巨头主导，也能惠及全球开发者和用户。对于跨境电商卖家和AI从业者而言，这意味着未来AI工具将不再局限于内容生成，而是能真正成为业务运营中的“数字员工”——但如何确保这些“员工”的行为可控、结果可靠，将是技术落地时必须直面的课题。