Mininglamp 开源 Cider 与 Mano-P:试试在 Mac 上跑本地 AI
最近看到 Mininglamp 开源的两个本地 AI 项目——Cider 和 Mano-P,感觉 Mac 用户终于有理由兴奋了。这两个工具一个管“脑子转得快不快”,一个管“手怎么动”,合在一起,算是把 Mac 从“能跑大模型”的玩具,变成了真正能干活、还能关起门来干活的私有 AI 工作站。
1. Cider:把 M 系列芯片的算力榨干
以前在 Mac 上跑本地大模型,大家都挺头疼:芯片性能明明很强,但推理速度慢得像蜗牛,内存还容易爆。Cider 就是来救场的。
它的核心思路很简单:深度利用 M 系列芯片(尤其是最新的 M5)里的 INT8 TensorOps 单元。这玩意儿专门用来加速整数计算,正好对得上大模型推理的胃口。
实际效果立竿见影:
- 速度起飞:本地跑大语言模型(LLM)和视觉模型(VLM)的速度,比之前那些通用方案快了不少。
- 省内存:因为用了 INT8 量化,占用的显存/内存大幅减少,资源利用率上去了。
说白了,Cider 让 Mac 用户终于能在自己的电脑上,流畅地跑那些以前必须依赖云端的 AI 模型,不用看脸色行事。
2. Mano-P:不用说话,光靠眼睛“干活”
如果说 Cider 解决了“跑得快”的问题,那 Mano-P 就是解决了“怎么让 AI 动手”的问题。
现在的 AI 智能体大多只能对着浏览器网页操作,像被困在屏幕里的孤岛。Mano-P 不一样,它是纯视觉的 GUI-VLA(视觉 – 语言 – 动作)模型,专门跑在 Mac mini 或 MacBook 上。
它的本事在于能像人一样“看屏幕、想策略、动手指”:
- 无视软件限制:不管你是用浏览器、桌面软件(比如 Photoshop、Excel)、还是复杂的图形化工具,它都能直接控制。
- 能规划长任务:不是只会机械地点击,而是能理解你要完成什么目标,自己拆解步骤去执行。
- 还能写代码:最让我惊讶的是,它甚至能根据需求,现场写代码来生成或修改应用。
- 隐私这块很稳:因为是纯视觉操作,所有的截图和任务数据都只在本地流转,根本不需要把隐私传给外部服务器,这点对于 Mac 用户来说太重要了。
3. 亲眼所见:Mano-P 玩麻将
光看介绍有点干,项目主页有个演示视频,看着 Mano-P 打麻将,那种“智能感”一下就出来了。
视频里,它盯着电脑屏幕,通过摄像头或屏幕截图“看”懂麻将的牌面布局,分析当前的局势,然后 autonomously(自主地)摸牌、打牌。没有人类操作,完全靠 AI 自己在非结构化的游戏界面里做决策。
这不仅仅是个技术演示,它证明了一点:AI 已经能处理这种复杂、混乱的真实环境了,而不仅仅是乖乖听话的聊天机器人。
4. 我的想法:本地 AI 终于能“落地”了
把 Cider 和 Mano-P 放在一起看,感觉像是拼图终于凑齐了。
Cider 负责把 M 芯片的算力压榨到极致,保证模型跑得快、不卡壳;Mano-P 负责把视觉感知和实际操作连成闭环,让 AI 能真正在你的电脑里“活”过来。
以前总觉得本地 AI 是个伪命题,要么跑不动,要么不安全。现在这两个开源项目,至少给 Mac 用户指了一条清晰的路:在自己家里,用自己的电脑,跑一个既快又安全的私有 AI 智能体。
当然,这也意味着开发者们得自己折腾环境、调试模型。但这恰恰是开源的魅力所在——工具给你了,路铺好了,能不能跑通,能不能做出自己的东西,就看你的本事了。
如果你也是 Mac 用户,对本地 AI 有点兴趣,不妨去看看这两个项目,或许你的下一台“私人 AI 助理”就藏在你的电脑里。
