Nativ:在Mac上本地运行AI模型
Nativ: Run AI models locally on your Mac
摘要
Prince Canuma 开发了一款 macOS 桌面应用,将 MLX-VLM Python 库封装为类似 LM Studio 的界面,提供聊天功能与 localhost API 服务器。该应用可自动识别 Hugging Face 缓存目录中已有的 MLX 模型,支持在 Mac 本地运行视觉大语言模型。
Nativ:在 Mac 上本地运行 AI 模型
Prince Canuma 是优秀 MLX-VLM Python 库的开发者,该库用于在 Mac 上通过 MLX 运行视觉大语言模型。我对他的新项目感到非常兴奋,该项目将 MLX 封装在一个完整的 macOS 桌面应用中。它的形态与 LM Studio 类似,既提供聊天界面,也提供用于访问模型的 localhost API 服务器。该应用能识别出我已尝试过且存在于 Hugging Face 缓存目录中的 MLX 模型,这是一个很贴心的设计。
来源:Hacker News
标签:macos, python, ai, generative-ai, local-llms, llms, mlx, prince-canuma
译自 Simon Willison · 博客 · 录于 二〇二六年七月二十一日