六个事实快照

带日期的事实对比
维度macMLXOllamaLM StudiooMLXSwamaSwiftLM
平台Apple 芯片 macOS 14 或更高版本macOS、Windows 与 LinuxmacOS、Windows 与 LinuxApple 芯片 macOSApple 芯片 macOSApple 芯片 macOS
核心运行时通过 Apple MLX 运行 Swift 进程内推理；默认路径不需要 Python 运行时Ollama 服务与平台模型运行器；在 Apple 芯片上官方支持 MLX多运行时；官方 MLX 引擎基于 Python，并捆绑 Python 3.11Python/FastAPI 推理核心与原生 SwiftUI 外壳基于 MLX 的纯 Swift 运行时原生 Swift MLX 服务；文档未显示 Python 核心
模型工作流受支持的 MLX 语言、视觉、嵌入、LoRA 与按检查点证据治理的原生模型工作流Ollama 模型库与模型导入工作流跨受支持格式的模型发现与下载工作流多模型 MLX 服务语言、视觉、嵌入与音频模型工作流以超大 MoE 为重点的 MLX 语言模型
接口SwiftUI 应用、macmlx CLI、支持结构化输出的兼容 HTTP API 与集成工具路由接口应用、CLI、Ollama 原生 API 与部分 OpenAI 兼容路由LM Studio 应用、llmster 服务、lms CLI、SDK 与本地 API菜单栏应用、服务工具、OpenAI 与 Anthropic 兼容接口菜单栏应用、CLI、模型管理与 OpenAI 兼容 APIOpenAI 兼容服务与 SwiftBuddy GUI
事实重点 / 受众Swift 原生服务，具备资格门控的连续批处理、LCP 提示复用、结构化输出与推测解码跨平台本地模型工作流广泛的桌面与开发者模型工作流连续批处理与支持前缀共享、CoW 的分页内存/SSD 缓存覆盖广泛的原生 Swift 本地 AI 入口面向大型 MoE 推理的 SSD 专家流式加载

已记录限制

Ollama

  • OpenAI 兼容范围以官方记录的端点家族为准，并不等同于 OpenAI 平台的全部功能。

LM Studio

  • 运行时与模型可用性因操作系统和硬件而异；官方 MLX 引擎面向受支持的 Apple 芯片 Mac。

oMLX

  • 稳定版 v0.4.4 快照仅面向 Apple 芯片，并使用 Python 服务核心而非 Swift 进程内推理。

Swama

  • v2.2.0 的系统要求与模型工作流仅面向 Apple 芯片，具体支持仍取决于架构。

SwiftLM

  • b648 快照重点面向大型 MoE 服务；模型与接口支持应以其发布文档为准。

快照

官方来源

  1. 推测解码
  2. Apple 芯片 macOS 安装
  3. 推测解码
  4. Track G 已测试模型
  5. 推测解码
  6. 本地嵌入
  7. InternLM3 理论支持
  8. InternLM3 理论支持
  9. OpenAI 端点兼容
  10. 结构化输出
  11. 聊天集成工具路由
  12. 资格门控的连续批处理
  13. 资格门控的连续批处理
  14. Trie 最长前缀复用
  15. 推测解码
  16. Ollama · github.com
  17. Ollama · ollama.com
  18. Ollama · docs.ollama.com
  19. Ollama · docs.ollama.com
  20. LM Studio · lmstudio.ai
  21. LM Studio · lmstudio.ai
  22. LM Studio · lmstudio.ai
  23. LM Studio · github.com
  24. oMLX · github.com
  25. oMLX · github.com
  26. Swama · github.com
  27. Swama · github.com
  28. SwiftLM · github.com
  29. SwiftLM · github.com