引擎与服务快照
| 维度 | macMLX | oMLX |
|---|---|---|
| 平台 | Apple 芯片 macOS 14 或更高版本 | Apple 芯片 macOS |
| 核心运行时 | 通过 Apple MLX 运行 Swift 进程内推理;默认路径不需要 Python 运行时 | Python/FastAPI 推理核心与原生 SwiftUI 外壳 |
| 模型工作流 | 受支持的 MLX 语言、视觉、嵌入、LoRA 与按检查点证据治理的原生模型工作流 | 多模型 MLX 服务 |
| 接口 | SwiftUI 应用、macmlx CLI、支持结构化输出的兼容 HTTP API 与集成工具路由接口 | 菜单栏应用、服务工具、OpenAI 与 Anthropic 兼容接口 |
| 事实重点 / 受众 | Swift 原生服务,具备资格门控的连续批处理、LCP 提示复用、结构化输出与推测解码 | 连续批处理与支持前缀共享、CoW 的分页内存/SSD 缓存 |
已记录限制
oMLX
- 稳定版 v0.4.4 快照仅面向 Apple 芯片,并使用 Python 服务核心而非 Swift 进程内推理。