上一篇，

我们聊了本地模型的基础知识：

什么是本地模型、怎么安装、

优缺点是什么。

 

这一篇，

说说我自己是怎么真正把它用起来的。

 

● ● ●

 

本地模型有哪些类型，我怎么用

 

本地模型不只是大语言模型一种。

我自己目前在用或正在研究的，

主要有以下几类：

 

💬 大语言模型（LLM）

平时向AI提问、对话用的模型，

比如Qwen、DeepSeek、Gemma等，

都有开源版本可以本地部署。

我主要用来分析工作日志，

处理一些涉及隐私的内容。

 

🎙️ 语音识别模型（ASR）

比如Whisper，

可以将音频、视频转换成文字字幕。

 

我自己有600多节视频课程，

用本地部署的Whisper，

结合有RTX 3070显卡的Windows电脑，

使用龙虾（Openclaw）调度，

连续工作了四五天，

把字幕全部处理完了。

 

如果一条条传到云端免费模型，

再处理，再下载，

可能一个月都搞不完；

如果使用付费云端模型，

费用估计超过一万元。

 

🔊 语音合成模型（TTS）

将文字转换成语音，

用于文字稿转配音。

我目前正在部署本地的TTS模型，

本地处理速度快，

也没有使用量限制。

 

🖼️ 图像生成模型

本地生成图片，

没有每天的数量限制，不用排队。

我目前正在研究这个方向。

 

🔗 向量化模型（Embedding）

将文字内容转换成向量数据，

用于语义搜索。

 

我用本地的Embedding模型，

将Obsidian里3000多张卡片

做了向量化处理，

之后调用这些数据写文章，

非常方便。

 

 

● ● ●

 

本地模型的第二视角价值

 

我有一个长期记录工作日志的习惯，

记录每天做了什么、

什么时候开始结束、

自己的感受、

有什么收获和需要改进的地方。

 

以前我也尝试过

把工作日志发给云端AI分析，

效果不错。

 

但工作日志里包含很多个人隐私信息，

有时候还涉及财务和银行相关事务。

每次发给云端模型，

都要先删掉敏感内容，很麻烦。

 

后来，

我改用本地模型来分析工作日志。

 

这让我想到《清单革命》里的一个故事。

 

书里提到，

一位世界顶级的外科医生，

在做手术时，

依然会请另一位医生站在旁边，

专门负责观察、记录，

甚至提醒他可能遗漏的细节。

哪怕对方的水平并不如他。

 

原因很简单：

再厉害的人，也会有盲区。

 

真正的高手，

并不是“永远不会犯错”，

而是会主动建立一套机制，

帮助自己减少错误。

 

查理·芒格说过：如果你拥有多个思维模型，你看世界的方式就会不同。

 

瑞·达利欧在《原则》里也提到：理解不同层级、不同人的视角，是做出正确决策的关键。

 

这也是我每天

把工作日志交给本地模型分析的原因。

 

人在工作过程中，

很容易陷入局部视角，

当局者迷。

 

本地模型会像那个

站在旁边的“第二观察者”一样，

帮我重新审视：

 

今天哪些事情真正产生了价值、

哪些时间被低质量事务消耗了、

哪些工作其实可以自动化、

哪些决策存在重复和惯性、

哪些地方正在偏离长期目标。

 

它提供了一个非常重要的东西：第二视角。

 

 

而很多时候，

高手之间真正拉开差距的，

并不是能力本身，

而是有没有建立

“持续纠偏”的系统。

 

而且，整个过程完全在本地处理，

没有任何隐私顾虑。

 

● ● ●

 

你适合安装本地模型吗

 

我建议，

哪怕本地模型不能成为你的主力模型，

也应该至少体验一次。

 

💡 好处一

当本地模型在你电脑里，

在不联网的情况下都能跑起来，

你会对AI模型有更直接、

更直观的理解和感受。

 

💡 好处二

别人谈论云端模型和本地模型时，

你知道他们在说什么，

大家可以交流。

 

💡 好处三

随着计算机性能发展，

同样价格，配置会越来越高。

过不了几年，

五六千元的电脑，

就可以安装非常好的本地模型了。

 

目前，我自己使用本地模型完成的工作，

占整体工作量大约20%以上，

还在不断探索新的使用场景。

 

我的目标是逐步提升到30%，

理想状态是未来能达到50%。

 

本地模型用得越多，

可控性越高，

自动化程度越高，

工作流设计的效率提升也越明显。

 

● ● ●

 

典型使用案例

 

👩‍💼 一位职场白领

想做日记、财务、工作日志的分析，

但这些内容隐私属性更高，

交给本地模型处理更放心。

 

🏢 一家企业的老板

心中有了初步的未来战略规划，

这些规划比较超前，

对身边的高管又不够信任，

但还是想听听建议、拓展思路，

于是使用一个高性能的本地模型，

帮助自己思考、分析。

 

📋 一位负责咨询项目的经理

负责一个大客户的咨询项目，

涉及财务数据、用户数据、内部战略，

需要AI辅助但又要保护隐私，

本地模型是最佳选择。

 

📊 一位企业高管

已经建立了企业内部知识库，

虽然没有那么高的保密要求，

但使用员工多，

按用户数购买云端服务成本高，

于是选择本地部署控制成本。

 

🔬 一位科研机构的负责人

涉及科研数据、

还未申请专利的技术，

不能联网使用，

可以部署本地模型在内部使用和分析。

 

🚢 一位远洋船员

长期在海上，上网不方便，

带一台好点的电脑部署本地模型，

可以稳定使用AI完成工作、

准备考试等。

 

● ● ●

 

在现阶段，

云端模型依然是主力，

本地模型更像是一种补充。

 

但我依然建议，

每个对AI感兴趣的人，

都至少体验一次本地模型。

 

当一个模型真正运行在你的电脑里时，你对AI的理解，会突然变得具体。

 

你会第一次真正意识到：

 

AI不再只是一个网站、一个App，

而是一种可以部署、

私有化、定制的能力。

 

🧘 正念×AI：安定向内，高效向外 个人效能实战营 用正念找到内在的安定与清晰 用AI释放外在的效率与创造力 内外兼修，打造真正可持续的个人效能系统 扫码加入实战营