# 按事实路线对比本地模型工具

以官方来源中立对比 v0.6.2 macMLX、Ollama、LM Studio、oMLX、Swama 与 SwiftLM，并标明日期。

## 直接回答

macMLX v0.6.2 快照与未变更的竞品快照在平台范围、运行时、模型工作流、接口与重点上存在差异。表格采用官方证据，不给出评分、赢家或通用最佳选择。请根据带日期的维度寻找符合自身需求的工作流。

- 规范网址：https://macmlx.app/zh/compare/
- 最后核验：2026-07-15

## 页面事实

- **Apple 芯片 macOS 安装** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. macMLX 支持运行 macOS 14 或更高版本的 Apple 芯片 Mac。 请使用项目当前安装与 Gatekeeper 指南；不要仅为打开应用而关闭系统级安全保护。
- **Swift 进程内推理** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. 默认引擎在 Swift 进程内加载并运行 MLX 模型。 模型加载、生成、缓存与服务通过 MacMLXCore 使用 Apple MLX；默认推理路径不需要 Python 运行时。
- **默认路径无需 Python** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. 已发布的默认引擎为 Swift 原生，不需要 Python 运行时。 可选兼容引擎可能使用子进程与其他运行时，因此这并不表示项目任何地方都没有 Python。
- **检测 14 个 VLM 家族** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. 模型库可检测 14 个视觉语言 model_type 家族。 这是有证据支持的家族数量，不保证每个检查点或处理器变体都能加载。
- **本地嵌入** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. POST /v1/embeddings 已在 v0.5.3 发布。 系统可以检测编码器模型家族，但若使用不合适的聊天模型，仍可能生成缺乏语义保证的向量。
- **受支持的 LoRA 适配器** — 已发布; 始于 0.5.0; 最后核验 2026-07-15. 原生引擎可应用受支持的 LoRA 适配器。 适配器兼容性取决于基础架构与权重，不宣称通用 LoRA 兼容。
- **Track G 已测试模型** — 已发布; 始于 0.6.2; 最后核验 2026-07-15. v0.6.2 新增四个通过检查点实测的原生模型家族。 真实检查点生成实测：Seed-OSS-36B 4-bit 为 18.2 tok/s；Hunyuan V1 Dense 1.8B 4-bit 为 80.3 tok/s；Cohere Command R7B 7B 4-bit 为 21.7 tok/s；MiniCPM3-4B 4-bit 为 18.7 tok/s。结果仅适用于对应检查点，不构成整个家族的性能保证。
- **InternLM3 理论支持** — 理论支持; 始于 0.6.2; 最后核验 2026-07-15. v0.6.2 交付通过等价性验证的 InternLM3 代码，支持等级为理论级。 真实生成尚未得到演示。公开检查点提供 tokenizer.model，但没有 tokenizer.json，而 Swift 分词器栈需要 tokenizer.json；在该加载路径边界改变前，支持仍为理论级。
- **共享代码，进程内各自运行** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. 应用与 CLI 都导入 MacMLXCore，推理和服务由核心负责。 两个产品共享实现与行为；当应用和 CLI 分别运行在不同进程时，它们不会共享同一个内存中引擎实例。
- **OpenAI 端点兼容** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. 聊天、传统补全、模型列表与嵌入使用兼容的请求和响应结构。 兼容范围按端点界定。/x/models 下的模型加载与卸载是 macMLX 扩展，不属于 OpenAI 兼容的模型管理。
- **MCP 服务端** — 已发布; 始于 0.5.0; 最后核验 2026-07-15. CLI 可向 MCP 客户端提供本地推理能力。 MCP 服务端在 v0.5.0 发布，与聊天侧调用外部工具的路由功能不同。
- **结构化输出** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 支持 response_format 的 json_object 与明确界定的 JSON Schema 子集。 不支持的 Schema 关键字返回 400；VLM 与结构化输出、工具与结构化输出都是不支持的组合，会被明确拒绝而非静默降级。
- **聊天集成工具路由** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 为 OpenAI、Anthropic 与 GUI MCP 循环交付多轮工具路由。 各协议的验证明确约束工具调用历史；该路由与 MCP 服务端及客户端池基础设施不同。
- **资格门控的连续批处理** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 仅在真实并发下批处理符合条件的稠密文本请求，并自动回退到串行路径。 标签版 4 客户端基准测得 2.5–3.2× 聚合吞吐量；VLM、推测解码、Ollama、Anthropic 与嵌入仍保持串行。
- **Trie 最长前缀复用** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 可复用最长兼容缓存词元前缀。 多轮提示可裁剪到最长公共前缀，只增量预填充新增后缀，同时用量统计仍按完整提示计算。
- **推测解码** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 通过 API 与 GUI 交付经典草稿模型路径。 接受率遥测用于呈现草稿效率；若目标使用不可裁剪的混合或线性注意力缓存，系统会检测并回退到标准解码。

## 来源

- https://github.com/magicnight/mac-mlx/releases/tag/v0.6.2
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/README.md
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/MLXSwiftEngine.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Managers/ModelLibraryManager.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/CHANGELOG.md
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/EmbeddingEngine.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/docs/model-support.md
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Models/InternLM3.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Server/HummingbirdServer.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Constraint/ResponseFormatDecoder.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/MCP/ToolCallingSession.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Batching/BatchScheduler.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/MLXSwiftEngine+BatchGenerationServing.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/PromptCache/PromptTrie.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/SpeculativeDecodingUsage.swift
- https://github.com/ollama/ollama/releases/tag/v0.31.2
- https://ollama.com/blog/mlx
- https://docs.ollama.com/api/introduction
- https://docs.ollama.com/api/openai-compatibility
- https://lmstudio.ai/changelog/lmstudio-v0.4.19
- https://lmstudio.ai/docs/app/basics/lmstudio-vs-llmster-vs-lms
- https://lmstudio.ai/docs/developer/core/server
- https://github.com/lmstudio-ai/mlx-engine
- https://github.com/jundot/omlx/releases/tag/v0.4.4
- https://github.com/jundot/omlx
- https://github.com/Trans-N-ai/swama/releases/tag/v2.2.0
- https://github.com/Trans-N-ai/swama
- https://github.com/SharpAI/SwiftLM/releases/tag/b648
- https://github.com/SharpAI/SwiftLM

## 相关页面

- [macMLX 与 Ollama](https://macmlx.app/zh/compare/ollama/)
- [macMLX 与 LM Studio](https://macmlx.app/zh/compare/lm-studio/)
- [macMLX 与 oMLX](https://macmlx.app/zh/compare/omlx/)