AI工具AI评分 一般 (63)AI 中文改写

LLMON:LLM原生标记语言,现已应用于Granite 4.1 3B和8B

5 天前 15 阅读来源:HuggingFace Blog

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

IBM在HuggingFace上发布了一套新的标记语言LLMON,并同步开源了两个实验性预览模型granite-4.1-3b-LLMON-preview和granite-4.1-8b-LLMON-preview。LLMON全称LLM Object Notation,读作“lemon”,是一种专为大语言模型设计的结构化标记语言。它的核心思路是:用模型能直接理解的特殊token来标记上下文中的指令、数据、约束和推理链,让模型清楚地知道“哪段话是命令、哪段话是数据、哪条指令作用于哪份材料”。 这件事的背景是,当前LLM的上下文里混杂着系统提示词、历史对话、工具返回结果、用户数据、输出约束等多种成分,但这些结构对模型来说大多是隐式的,或者用JSON这类“为解析器设计、不是为模型设计”的格式编码。JSON的引号、括号、冒号在普通文本中也会出现,模型只能靠统计模式去猜结构,嵌套层级一深就容易出错。这也是小参数模型表现脆弱、容易被提示注入攻击的重要原因——攻击者可以把恶意指令藏在用户数据里,模型分不清这是数据还是命令,就被“劫持”了。 LLMON的解法是把结构和内容彻底分开:标签用保留的特殊token表示,不占用普通词汇表;每段内容开头标明标签,边界明确;指令带唯一ID,可以精确绑定到它要处理的数据上,类似编程语言里函数调用传参。IBM公布的测试显示,在部分基准上,针对间接提示注入的攻击成功率降到接近零,而常规指令微调模型被劫持的概率很高,同时模型保持了与Granite 4.1 Instruct相当的综合能力。对跨境电商卖家和AI应用开发者来说,这意味着搭建客服机器人、商品数据处理、多工具调用流程时,可以更放心地把用户输入和外部数据喂给模型,不必过度担心数据里夹带的恶意指令;已有的JSON数据也能通过转换工具无损转成LLMON。配套的GitHub仓库提供了工具包、工作流示例和模板,Mellea框架已原生支持LLMON,会自动把LLM调用转成LLMON格式。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · HuggingFace Blog

内容版权归原作者及 HuggingFace Blog 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0 条

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容