# 如何选择 MLX 模型

v0.6.2 实用表格，涵盖架构、本地发现、参数量、量化、上下文、并发与统一内存余量。

## 直接回答

先从任务与确切架构支持开始，再核对分词器和检查点兼容性，包括在 Hugging Face 缓存根目录中发现的模型。估算权重、上下文缓存、运行时开销与 macOS 余量；仅在兼容场景使用 KV 缓存量化。若估算接近物理内存，应选择更小或权重量化程度更高的检查点。

- 规范网址：https://macmlx.app/zh/models/choosing-a-model/
- 最后核验：2026-07-15

## 页面事实

- **Apple 芯片统一内存** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. MLX 数组使用 Mac 的 CPU/GPU 共享内存系统。 统一内存减少 CPU 编排与集成 GPU 计算之间的显式传输，但模型权重、激活值和 KV 缓存仍会占用有限的物理内存。
- **有界模型池** — 已发布; 始于 0.5.0; 最后核验 2026-07-15. 预算、LRU 淘汰、固定、冷切换、空闲 TTL 与探针共同约束多模型使用。 模型池在 v0.5.0 发布并于 v0.5.3 加固；它不是统一自适应控制器。
- **精确前缀 RAM 与 SSD 缓存** — 已发布; 始于 0.5.0; 最后核验 2026-07-15. 内存热层与内容寻址 SSD 冷层支持提升和降级。 v0.5.0 发布的缓存复用完整精确前缀，不包含已发布的块共享或分页 KV 分配。
- **KV 缓存量化** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 为兼容请求开放 kv_bits、kv_group_size 与 quantized_kv_start。 这些参数改变 KV 缓存精度，而非模型权重精度；非正数 kv_bits 会禁用该功能，兼容矩阵会拒绝不支持的模型或请求组合。
- **Hugging Face 缓存发现** — 已发布; 始于 0.6.0; 最后核验 2026-07-15. v0.6.0 可发现配置的 Hugging Face 缓存根目录中的模型，无需重复下载权重。 发现仅确认本地候选项，并不保证通用加载；架构、分词器、处理器与检查点兼容性仍然适用。
- **temperature 与 top-p** — 已发布; 始于 0.1.0; 最后核验 2026-07-15. temperature 与核采样 top-p 是已发布参数。 它们是当前已开放的核心采样控制。
- **扩展采样控制** — 规划中; 始于 future; 最后核验 2026-07-15. top-k、min-p、presence、frequency 与 repetition 惩罚项，以及逐请求 seed 处于规划阶段。 DeepSeek 专家路由 top-k 是架构内部操作，与用户采样 top-k 无关。

## 来源

- https://ml-explore.github.io/mlx/build/html/usage/unified_memory.html
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/MLXSwiftEngine.swift
- https://github.com/magicnight/mac-mlx/releases/tag/v0.6.2
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/CHANGELOG.md
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/ModelPool/ModelPool.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/PromptCache/PromptCacheStore.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Engine/GenerateRequest.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Managers/ModelLibraryManager.swift
- https://github.com/magicnight/mac-mlx/blob/v0.6.2/MacMLXCore/Sources/MacMLXCore/Managers/ModelParametersStore.swift
- https://github.com/magicnight/mac-mlx/blob/main/docs/superpowers/specs/2026-07-10-engine-scroll-story-design.md
- https://github.com/magicnight/mac-mlx/blob/main/MacMLXCore/Sources/MacMLXCore/Managers/ModelParametersStore.swift

## 相关页面

- [按任务与内存选择模型](https://macmlx.app/zh/models/)
- [视觉语言模型支持](https://macmlx.app/zh/models/vision-language-models/)
- [macMLX 如何在 Apple 芯片上运行模型](https://macmlx.app/zh/architecture/)