Markdown笔记接本地AI不花钱（SoloMD教程03）

先说清楚：SoloMD 是我自己做的软件，这个系列是我写自己产品的使用教程。所以下面凡是它做不到、或者对你电脑有要求的地方，我也一并写出来。

上一篇讲了填 key 用云端模型，一篇笔记改写下来大约两分钱。这篇讲另一条路：模型下到你自己电脑上跑，一分钱不花。

什么人适合走这条路

三种情况值得折腾：

1. 不想为几分钱去注册账号、绑支付
2. 笔记里有不方便发给任何厂商的内容——工作资料、客户信息、个人日记
3. 经常在没网的地方写东西，高铁上、飞机上

反过来说，如果你只是偶尔润色几句，上一篇那条路更省事，两分钱换的是不用装东西、不占硬盘。

先看你的电脑扛不扛得住

这是最该先确认的事，装完跑不动就白折腾了。

模型分大小，越大越聪明也越吃内存。SoloMD 内置了三个预设，都是通义千问的 qwen2.5：

判断方法很简单：先装 7b 试试。跑起来慢得受不了就换 1.5b，跑得很轻松就上 14b。

有独立显卡会快很多，但没有独显也能跑，只是慢一些——1.5b 在普通办公本上是可以用的。

第一步 · 装 Ollama

Ollama 是个免费开源的工具，负责在你电脑上把模型跑起来。官网：

ollama.com

进去下载对应系统的安装包，一路下一步装完，没有捆绑也不用注册。它装完之后是常驻后台运行的，任务栏右下角会多一个小图标，平时不用管它，开机会自己起来。

第二步 · 下一个模型

装完 Ollama 之后，打开命令行——Windows 按 Win+R 输入 cmd 回车，Mac 打开「终端」。

输入这一行，回车：

ollama pull qwen2.5:7b

然后等它下完 4.7GB。这一步只做一次，以后就不用了。

下载速度取决于你的网络，4.7GB 大概几分钟到十几分钟。下完之后顺手验证一下：输入 ollama run qwen2.5:7b，等它加载完随便问一句，能正常回答就说明模型跑起来了。想退出打 /bye 回车。

第三步 · 在 SoloMD 里选它

这一步最省事，因为 SoloMD 会自动发现它。

Ollama 装好之后会在本机的 11434 端口上待命，SoloMD 打开设置里的 AI 那一栏时会自动去探测这个端口。探到了，供应商列表里就会出现 Ollama，后面跟着你下过的模型。

选中它，再选一个模型，保存。这里不需要填任何 key——本地模型本来就没有账号体系，也就没有 key 这回事，上一篇讲的那些申请、充值、额度全都用不上。

如果列表里没出现 Ollama，八成是它没在后台跑。去任务栏看看有没有那个图标，或者在命令行敲一下 ollama list，能列出模型就说明服务是活的。

用起来跟上一篇有什么不一样

操作完全一样：选中文字、点 AI、选润色或改写。差别在三个地方。

第一，慢一些。 云端模型是几十张显卡在算，你的电脑就一张甚至没有。7b 在普通笔记本上大概是每秒十几个字往外蹦，能看，但不如云端那么瞬间出结果。

第二，笨一些。 7b 的参数量比云端旗舰模型小两三个数量级。润色、改写、总结、翻译这类活它做得挺好；要它写复杂的分析或者严谨的代码，差距就出来了。

第三，完全不联网。 你可以直接把网线拔了试，AI 照样工作。笔记内容从头到尾没离开过你这台机器。

一个进阶用法

SoloMD 有个定时任务功能（recipes），可以让 AI 在你不在电脑前的时候自动干活，比如每周日晚上把这一周的笔记汇总成一份周报。

配了本地模型之后，这些定时任务可以写成走本地跑。好处是跑多少次都不花钱——定时任务这种东西一旦跑起来，调用次数会比你手动用高得多，走云端是要计费的。

这部分我留到后面单独写一篇。

说几句实话

本地模型不是万能的，有三个坑得提前知道：

1. 占硬盘。 7b 是 4.7GB，14b 是 9GB，装两三个模型硬盘就少一大块
2. 老电脑体验不好。 八年前的笔记本跑 1.5b 都可能卡，这种情况老实用云端
3. 质量确实有差距。 别指望本地 7b 能达到云端旗舰模型的水平，它做的是够用而不是最好

我自己的用法是两条都留着：日常润色走本地，遇到需要动脑子的长文分析切回云端。SoloMD 里换供应商就是下拉框选一下的事，随时切。

下一篇讲什么

前三篇都在讲 AI。下一篇换个方向，讲一个跟 AI 无关但特别实用的功能：每次按保存都自动存一个版本，写错了、删多了、改砸了，都能翻回去。

不用你懂 Git，也不用装任何东西。