MLX STT

核心用法

MLX STT 是一款专为 Apple Silicon 设计的本地语音转文字工具，通过 MLX 框架运行 GLM-ASR-Nano-2512-8bit 模型实现离线 ASR。用户只需执行 uv run mlx-stt.py <音频路径> 即可完成转录，首次运行自动从 Hugging Face 拉取约 2.5GB 模型文件。

显著优点

1. 完全本地化：无需网络 API、无需订阅费用、无隐私外泄风险
2. Apple Silicon 深度优化：基于 Apple 原生 MLX 框架，充分利用 Neural Engine
3. 模型轻量化：8-bit 量化后仅 2.5GB，在消费级 Mac 上可流畅运行
4. 零配置门槛：通过 brew 自动管理 ffmpeg、uv 等依赖
5. GLM-ASR 背书：智谱 AI 开源模型，中文场景表现优异

潜在局限

• 平台锁定：仅限 macOS + Apple Silicon（M1/M2/M3/M4）
• 首冷启动：初次下载模型耗时较长
• 无实时流式：目前为文件批处理模式，非实时麦克风输入
• 英文支持待验证：GLM-ASR 系列以中文优化为主

适合人群

• 重视隐私的 Mac 用户（律师、医生、记者）
• 需离线处理敏感音频的企业内网环境
• 中文语音转录需求为主的创作者
• 希望避免 API 订阅成本的个人开发者

常规风险

• 模型文件来源为 Hugging Face 社区频道，非官方 mlx-community 主仓
• 依赖 uv 包管理器的供应链安全
• 长时间音频转录可能导致风扇高转与设备发热

MLX STT 深度评测

核心用法

MLX STT 是一款专为 macOS Apple Silicon 设备设计的本地离线语音识别工具，核心功能是将音频文件转录为文字。其工作流程简洁：通过 mlx-stt.py 脚本接收音频路径，首次运行时自动从 Hugging Face 下载约 2.5GB 的 GLM-ASR-Nano-2512-8bit 量化模型，随后完全本地推理，结果输出至 stdout。

技术栈采用 Apple 原生 MLX 框架，配合 uv 包管理器和 ffmpeg 格式转换，无需 Python 虚拟环境配置，开箱即用。

显著优点

1. 完全免费与隐私优先
零 API 费用、零订阅成本，音频数据全程本地处理，不上传云端，彻底杜绝敏感语音内容外泄风险，尤其适合律师、医生、记者等对隐私要求极高的职业场景。

2. Apple Silicon 深度优化
基于 MLX 框架充分利用 Apple Silicon 的 Neural Engine 和统一内存架构，推理效率显著优于通用 PyTorch 方案，MacBook/Mac mini 均可流畅运行。

3. 开源生态透明
依赖 mlx-audio、ffmpeg 等成熟开源组件，代码仅 134 行、4 个文件，结构清晰易于审计，无黑盒操作。

潜在局限

• 平台锁死：仅限 macOS + Apple Silicon（M1/M2/M3/M4），Intel Mac 及 Windows/Linux 完全无法使用
• 首次下载沉重：2.5GB 模型初次拉取耗时较长，网络不佳时体验打折
• 功能单一：仅支持文件转写，无实时麦克风流识别、无说话人分离、无标点智能优化等高级功能
• 中文效果待验证：GLM-ASR-Nano 虽为智谱出品，但 8bit 量化对中文专有名词、方言的识别准确率需实测确认

适合人群

• Apple Silicon Mac 用户寻求免费替代 Whisper/讯飞/阿里云语音方案
• 隐私敏感型用户（播客创作者、口述历史记录者、企业内部会议转录）
• 开发者希望基于 MLX 生态二次封装语音能力

常规风险

• T3 来源维护：个人开发者 guoqiao 维护，存在账号安全与长期维护不确定性，建议 Fork 后自建更新机制
• subprocess 依赖：调用 ffmpeg 和 mlx_audio 外部命令，虽无注入风险，但版本兼容性需自行保障
• 量化精度损失：8bit 量化模型在极端音频场景（低信噪比、重口音）可能出现识别衰减