# 逐端点说明本地 API 兼容性

精确列出 v0.6.2 的 OpenAI、Anthropic Messages、选定 Ollama 端点、工具循环、结构化输出、API 控制项与服务边界。

## 直接回答

v0.6.2 在范围明确的本地 API 中新增已发布的工具循环、结构化输出、兼容控制项与 KV 缓存量化。/x/models 下的模型管理仍是 macMLX 扩展；Anthropic 仅支持 Messages；Ollama 覆盖五个选定端点；重排仍是双编码器 MVP。不支持的 Schema 与参数组合会明确返回 400。

- 规范网址：https://macmlx.app/zh/api-compatibility/
- 最后核验：2026-07-15

## 页面事实

- **OpenAI 端点兼容** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. 聊天、传统补全、模型列表与嵌入使用兼容的请求和响应结构。 兼容范围按端点界定。/x/models 下的模型加载与卸载是 macMLX 扩展，不属于 OpenAI 兼容的模型管理。
- **Anthropic Messages 兼容** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. v0.5.3 提供 POST /v1/messages，并支持流式响应。 这里只兼容 Messages API，不代表兼容完整 Anthropic API。
- **部分 Ollama 端点** — 已发布; 始于 0.3.7; 最后核验 2026-07-15. macMLX 支持 /api/version、/api/tags、/api/show、/api/chat 与 /api/generate。 该兼容层自 v0.3.7 起提供；它只覆盖选定端点，不是完整 Ollama API 的无差别替代。
- **MCP 服务端** — 已发布; 始于 0.5.0; 最后核验 2026-07-15. CLI 可向 MCP 客户端提供本地推理能力。 MCP 服务端在 v0.5.0 发布，与聊天侧调用外部工具的路由功能不同。
- **MCP 客户端池** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. v0.5.3 包含受管理的 MCP 客户端连接。 客户端池负责管理外部 MCP 进程与连接；聊天侧集成工具路由是另一个在 v0.6.0 发布的能力。
- **聊天集成工具路由** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 为 OpenAI、Anthropic 与 GUI MCP 循环交付多轮工具路由。 各协议的验证明确约束工具调用历史；该路由与 MCP 服务端及客户端池基础设施不同。
- **本地嵌入** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. POST /v1/embeddings 已在 v0.5.3 发布。 系统可以检测编码器模型家族，但若使用不合适的聊天模型，仍可能生成缺乏语义保证的向量。
- **双编码器重排 MVP** — 已发布; 始于 0.5.3; 最后核验 2026-07-15. POST /v1/rerank 对独立嵌入的文本计算余弦相似度。 这一已发布 MVP 不是交叉编码器重排器。
- **资格门控的连续批处理** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 仅在真实并发下批处理符合条件的稠密文本请求，并自动回退到串行路径。 标签版 4 客户端基准测得 2.5–3.2× 聚合吞吐量；VLM、推测解码、Ollama、Anthropic 与嵌入仍保持串行。
- **结构化输出** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 支持 response_format 的 json_object 与明确界定的 JSON Schema 子集。 不支持的 Schema 关键字返回 400；VLM 与结构化输出、工具与结构化输出都是不支持的组合，会被明确拒绝而非静默降级。
- **API 兼容功能包** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 新增 logit_bias、logprobs 与 top_logprobs、XTC、逐请求 LoRA 适配器和 tools。 明确的兼容矩阵约束参数组合，不支持的配对返回 400，而不会静默降级。
- **KV 缓存量化** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 为兼容请求开放 kv_bits、kv_group_size 与 quantized_kv_start。 这些参数改变 KV 缓存精度，而非模型权重精度；非正数 kv_bits 会禁用该功能，兼容矩阵会拒绝不支持的模型或请求组合。

## 来源

- https://github.com/magicnight/mac-mlx/releases/tag/v0.6.2
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/CHANGELOG.md
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Server/HummingbirdServer.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/MCP/MCPClientPool.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/MCP/ToolCallingSession.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/EmbeddingEngine.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/RerankScoring.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Batching/BatchScheduler.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/MLXSwiftEngine+BatchGenerationServing.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Constraint/ResponseFormatDecoder.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/GenerateRequest.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/MLXSwiftEngine.swift

## 相关页面

- [macMLX 如何在 Apple 芯片上运行模型](https://macmlx.app/zh/architecture/)
- [macMLX 常见问题解答](https://macmlx.app/zh/faq/)
- [macMLX v0.6.2](https://macmlx.app/zh/releases/v0-6-2/)
- [macMLX 与 Ollama](https://macmlx.app/zh/compare/ollama/)