AnyLanguageModel 1.0：苹果平台本地模型的一年

本地大模型在苹果生态里跑了一年，AnyLanguageModel 终于发布 1.0 正式版。这个项目的起点很具体：去年不少 App 开发者对本地模型感兴趣，却卡在入门门槛上，同时也不想为对接多家推理服务商而增加工程复杂度。AnyLanguageModel 由此而生，定位是苹果 Foundation Models 框架的“即插即用”替代品——开发者只需把 import FoundationModels 换成 import AnyLanguageModel，同一套会话代码就能在系统模型、llama.cpp、MLX、Core ML 等本地推理后端，以及 OpenAI、Anthropic、Gemini、Ollama 等云端服务商之间自由切换。与 1.0 一同发布的还有 swift-huggingface 1.0 和 swift-xet 1.0，两者负责把 Hugging Face 模型库的加速下载能力带进 Swift 应用。 过去一年，这个项目补齐了几块关键能力。工具调用和引导式生成（guided generation）现在对所有服务商生效，包括嵌套的 @Generable 类型及其数组；图片输入也已支持，开发者可以按 Foundation Models 27 的语法把图片附到提示词里，在 iOS、macOS、visionOS 27 上使用系统模型时同样适用。云端侧新增了 OpenAI 的 Chat Completions 与 Responses API、Anthropic Messages API（带自适应思考和推理强度选项）、Google Gemini、Ollama、苹果 Private Cloud Compute，以及通过自定义 base URL 接入的 Hugging Face Inference Providers 和 OpenRouter 等兼容端点。这意味着开发者可以用同一套代码调用参数量大到设备跑不动的开源模型，比如 1200 亿参数的 gpt-oss-120b。API 密钥改为从闭包获取而非写死字符串，方便 App 从自有服务器拉取短期令牌；代码还能跑在 Linux 上，服务端复用同一套逻辑。 对苹果生态的开发者和关注端侧 AI 的从业者来说，这次更新的实际意义在于选型成本被压低了。本地模型和云端推理各有取舍，共享 API 让“按任务挑模型”变得可行，而不是被某一家服务商锁死。开源模型本身也在变强：谷歌 Gemma 4 E2B 的 GGUF 量化版约 3.4GB，Liquid AI 的 LFM2.5 2.6B 约 1.7GB，两者都能塞进 iPhone；阿里 Qwen3.8 27B 的 MLX 版本 4 位量化后约 16GB，需要 32GB 内存以上的 Mac 才能跑，切换只需一行代码指定模型 ID。