历史 v0.5.3 范围

macMLX v0.5.3

作为历史记录,2026-07-08 发布版扩展了兼容 API、嵌入、模型池加固、MCP 客户端与原生模型栈;后续 v0.6 工作不属于此记录。

兼容性与升级说明

兼容性
API 兼容范围仍按端点界定:Anthropic 仅支持 Messages,Ollama 覆盖五个选定端点,/x/models 的加载与卸载路由属于 macMLX 扩展。
升级
如使用这一历史版本,请查看 v0.5.3 标签版更新日志。现有客户端应保留其已记录的端点与模型假设;v0.6 的批处理与前缀复用不属于 v0.5.3。

已交付

已发布0.5.3

OpenAI 端点兼容

聊天、传统补全、模型列表与嵌入使用兼容的请求和响应结构。

兼容范围按端点界定。/x/models 下的模型加载与卸载是 macMLX 扩展,不属于 OpenAI 兼容的模型管理。

核验

已发布0.5.3

Anthropic Messages 兼容

v0.5.3 提供 POST /v1/messages,并支持流式响应。

这里只兼容 Messages API,不代表兼容完整 Anthropic API。

核验

已发布0.3.7

部分 Ollama 端点

macMLX 支持 /api/version、/api/tags、/api/show、/api/chat 与 /api/generate。

该兼容层自 v0.3.7 起提供;它只覆盖选定端点,不是完整 Ollama API 的无差别替代。

核验

已发布0.5.0

MCP 服务端

CLI 可向 MCP 客户端提供本地推理能力。

MCP 服务端在 v0.5.0 发布,与聊天侧调用外部工具的路由功能不同。

核验

已发布0.5.3

MCP 客户端池

v0.5.3 包含受管理的 MCP 客户端连接。

客户端池负责管理外部 MCP 进程与连接;聊天侧集成工具路由是另一个在 v0.6.0 发布的能力。

核验

已发布0.5.3

本地嵌入

POST /v1/embeddings 已在 v0.5.3 发布。

系统可以检测编码器模型家族,但若使用不合适的聊天模型,仍可能生成缺乏语义保证的向量。

核验

已发布0.5.3

双编码器重排 MVP

POST /v1/rerank 对独立嵌入的文本计算余弦相似度。

这一已发布 MVP 不是交叉编码器重排器。

核验

已发布0.5.0

精确前缀 RAM 与 SSD 缓存

内存热层与内容寻址 SSD 冷层支持提升和降级。

v0.5.0 发布的缓存复用完整精确前缀,不包含已发布的块共享或分页 KV 分配。

核验

已发布0.5.0

有界模型池

预算、LRU 淘汰、固定、冷切换、空闲 TTL 与探针共同约束多模型使用。

模型池在 v0.5.0 发布并于 v0.5.3 加固;它不是统一自适应控制器。

核验

已发布0.5.0

受支持的 LoRA 适配器

原生引擎可应用受支持的 LoRA 适配器。

适配器兼容性取决于基础架构与权重,不宣称通用 LoRA 兼容。

核验

已发布0.5.3

检测 14 个 VLM 家族

模型库可检测 14 个视觉语言 model_type 家族。

这是有证据支持的家族数量,不保证每个检查点或处理器变体都能加载。

核验

已发布0.5.3

DeepSeek V3.2 Swift 覆盖层

v0.5.3 包含 DeepSeek V3.2 架构的纯 Swift 组件对齐实现。

真实检查点冒烟测试仍待完成,且缺少 FP8 反量化,因此不构成端到端或通用 MoE 声明。

核验

当前限制

已发布0.5.3

DeepSeek V3.2 Swift 覆盖层

v0.5.3 包含 DeepSeek V3.2 架构的纯 Swift 组件对齐实现。

真实检查点冒烟测试仍待完成,且缺少 FP8 反量化,因此不构成端到端或通用 MoE 声明。

核验

已发布0.5.3

双编码器重排 MVP

POST /v1/rerank 对独立嵌入的文本计算余弦相似度。

这一已发布 MVP 不是交叉编码器重排器。

核验

规划中

规划中future

分页 KV、块共享与 CoW

分页分配、共享块与写时复制分支处于规划阶段。

这些缓存虚拟化能力均未在 v0.6.2 发布。

核验

规划中future

统一自适应内存守卫

跨缓存、模型池与并发的反馈控制器处于规划阶段。

已发布的内存探针和模型池上限是独立机制,不能称为该守卫。

核验

规划中future

扩展采样控制

top-k、min-p、presence、frequency 与 repetition 惩罚项,以及逐请求 seed 处于规划阶段。

DeepSeek 专家路由 top-k 是架构内部操作,与用户采样 top-k 无关。

核验

官方来源

  1. macMLX v0.5.3 · github.com
  2. macMLX v0.5.3 · github.com