六个事实快照
| 维度 | macMLX | Ollama | LM Studio | oMLX | Swama | SwiftLM |
|---|---|---|---|---|---|---|
| 平台 | Apple 芯片 macOS 14 或更高版本 | macOS、Windows 与 Linux | macOS、Windows 与 Linux | Apple 芯片 macOS,macOS 15.0+ | Apple 芯片 macOS | Apple 芯片 macOS |
| 核心运行时 | 通过 Apple MLX 运行 Swift 进程内推理;默认路径不需要 Python 运行时 | Ollama 服务与平台模型运行器;在 Apple 芯片上官方支持 MLX,自 v0.33.1 起 MLX 运行器支持结构化输出 | 多运行时;官方 MLX 引擎基于 Python,并自带 Python 运行时 | Python/FastAPI 推理核心与原生 SwiftUI 外壳 | 基于 MLX 的纯 Swift 运行时 | 原生 Swift MLX 服务;文档未显示 Python 核心 |
| 模型工作流 | 受支持的 MLX 语言、视觉、嵌入、LoRA 与按检查点证据治理的原生模型工作流 | Ollama 模型库与模型导入工作流 | 跨受支持格式的模型发现与下载工作流 | 多模型 MLX 服务 | 语言、视觉、嵌入与音频模型工作流 | 以超大 MoE 为重点的 MLX 语言模型 |
| 接口 | SwiftUI 应用、macmlx CLI、支持结构化输出的兼容 HTTP API 与集成工具路由接口 | 应用、CLI、Ollama 原生 API 与部分 OpenAI 兼容路由 | LM Studio 应用、llmster 无头守护进程、lms CLI、SDK 与本地 API | 菜单栏应用、服务工具、OpenAI 与 Anthropic 兼容接口 | 菜单栏应用、CLI、模型管理与 OpenAI 兼容 API | OpenAI 兼容服务与 SwiftBuddy GUI |
| 事实重点 / 受众 | Swift 原生服务,具备资格门控的连续批处理、LCP 提示复用、结构化输出、推测解码,以及免 sudo 的硅瓶颈可观测性 | 跨平台本地模型工作流 | 广泛的桌面与开发者模型工作流 | 连续批处理、支持前缀共享的分页内存/SSD 缓存、多令牌预测与分布式服务 | 覆盖广泛的原生 Swift 本地 AI 入口,自 v2.3.0 起在聊天补全路径提供提示词与 KV 缓存复用 | 面向大型 MoE 推理的 SSD 专家流式加载 |
已记录限制
Ollama
- OpenAI 兼容范围以官方记录的端点家族为准,并不等同于 OpenAI 平台的全部功能。
LM Studio
- 运行时与模型可用性因操作系统和硬件而异;官方 MLX 引擎面向受支持的 Apple 芯片 Mac。
oMLX
- v0.6.3 快照要求 macOS 15.0+ 与 Python 3.11-3.13,并使用 Python 服务核心而非 Swift 进程内推理。
Swama
- v2.3.0 的系统要求与模型工作流仅面向 Apple 芯片,具体支持仍取决于架构。
SwiftLM
- b704 快照重点面向大型 MoE 服务;模型与接口支持应以其发布文档为准。
官方来源
- 推理瓶颈分类器
- Apple 芯片 macOS 安装
- 推测解码
- Track G 已测试模型
- 推理瓶颈分类器
- 本地嵌入
- InternLM3 理论支持
- InternLM3 理论支持
- OpenAI 端点兼容
- 结构化输出
- 聊天集成工具路由
- 资格门控的连续批处理
- 资格门控的连续批处理
- Trie 最长前缀复用
- 推测解码
- 硅活动面板
- 硅活动面板
- 推理瓶颈分类器
- 推理瓶颈分类器
- Ollama · github.com
- Ollama · ollama.com
- Ollama · docs.ollama.com
- Ollama · docs.ollama.com
- LM Studio · lmstudio.ai
- LM Studio · lmstudio.ai
- LM Studio · lmstudio.ai
- LM Studio · github.com
- oMLX · github.com
- oMLX · github.com
- Swama · github.com
- Swama · github.com
- SwiftLM · github.com
- SwiftLM · github.com