运行时与工作流快照

带日期的事实对比
维度macMLXOllama
平台Apple 芯片 macOS 14 或更高版本macOS、Windows 与 Linux
核心运行时通过 Apple MLX 运行 Swift 进程内推理;默认路径不需要 Python 运行时Ollama 服务与平台模型运行器;在 Apple 芯片上官方支持 MLX
模型工作流受支持的 MLX 语言、视觉、嵌入、LoRA 与按检查点证据治理的原生模型工作流Ollama 模型库与模型导入工作流
接口SwiftUI 应用、macmlx CLI、支持结构化输出的兼容 HTTP API 与集成工具路由接口应用、CLI、Ollama 原生 API 与部分 OpenAI 兼容路由
事实重点 / 受众Swift 原生服务,具备资格门控的连续批处理、LCP 提示复用、结构化输出与推测解码跨平台本地模型工作流

已记录限制

Ollama

  • OpenAI 兼容范围以官方记录的端点家族为准,并不等同于 OpenAI 平台的全部功能。

快照

官方来源

  1. 部分 Ollama 端点
  2. Apple 芯片 macOS 安装
  3. 推测解码
  4. Track G 已测试模型
  5. 部分 Ollama 端点
  6. 本地嵌入
  7. InternLM3 理论支持
  8. InternLM3 理论支持
  9. 部分 Ollama 端点
  10. 结构化输出
  11. 聊天集成工具路由
  12. 资格门控的连续批处理
  13. 资格门控的连续批处理
  14. Trie 最长前缀复用
  15. 推测解码
  16. Ollama · github.com
  17. Ollama · ollama.com
  18. Ollama · docs.ollama.com
  19. Ollama · docs.ollama.com