本地模型解决的是什么问题，可能和你以为的不一样

你把一份还没对外的材料粘进对话框之前，鼠标停了一下。可能是尽调时记的一份会议纪要，也可能是你自己写的持仓复盘。

那一下犹豫是对的。但接下来大多数人做的事，方向就偏了：去搜「本地模型怎么装」，折腾一晚上，装好了，跑起来了，心里踏实了。然后第二天，他继续把同一类材料粘进云端的对话框里——因为本地那个太慢，读长材料还老丢东西。

这一节想帮你把这件事想清楚。本地模型，就是跑在你自己电脑上、数据不发到别人服务器的那种模型。 它解决的问题很具体，也很窄。它不是「更好的模型」，它是「换了个位置的模型」。位置换了，你得到一样东西，同时失去另一样。

生活层：家里那台打印机

家里那台打印机，出片质量不如打印店的专业机器，纸张选择少，速度也慢。可有一类东西你就是会用它打：孩子的体检报告、还没签字的协议草稿、写给自己看的一页纸。不是因为它打得好，是因为你不想让这张纸从别人的机器里过一遍。

反过来，你要打一份从官网下载的公开说明书，你反而愿意跑一趟打印店用好机器——这玩意儿全世界都能下载，你在家慢慢打图什么？

这个直觉你天生就有，用了一辈子，从来没出过错。问题是很多人一碰到 AI 就把这个直觉丢了，开始一刀切：要么什么都往云端发，要么什么都非本地不可。

投资层：哪些材料真的不该出门

把你平时喂给 AI 的东西分成三类，你会发现事情立刻清楚了。

第一类，本来就公开的。 上市公司年报季报、公告、招股说明书、交易所问询函的回复、行业协会公布的统计。这类材料的性质是：任何人都能下载。你把它发给云端模型，泄露出去的信息量是零。在这类材料上纠结「会不会被记录」，属于在一堵没有门的墙上装锁。

第二类，公开材料加上你的私人意图。 这类最容易被漏掉。年报是公开的，但你问的问题不是公开的。「帮我看看这家公司应收账款的账龄结构有没有恶化」——这句话本身暴露的是你的关注方向。连着问同一个行业里十几家公司同一个问题，暴露的就是你的研究框架和候选池。材料公开，意图不公开。

第三类，压根没公开的。 闭门交流的记录、别人转给你的未公开草稿、你完整的持仓和仓位分布、你写给自己的交易日志。这一类才是真需要小心的。

现在做一件事：回忆过去一周你实际粘进对话框的东西，按这三类各记一笔。大多数人算完会发现，绝大部分落在第一类，少量第二类，第三类可能一次都没有。这个比例，直接决定了本地模型对你的价值有多大。

还有一个场景，本地是硬需求：断网环境。有些研究终端物理上不通外网，或者所在场所根本不允许外联。这种情况下不存在「要不要用本地」，只有「只能本地」，没得选。

机制层：换了位置，你付出了什么

先说一个很多人没意识到的事实：能跑在个人电脑上，这件事本身就是一种约束。

云端那些模型跑在什么样的机器上，你的笔记本又是什么配置，这中间的差距不是一点半点。为了塞进个人设备，能在本地跑起来的模型基本都是经过压缩和裁剪的版本。压缩这个动作不是无损的，它总要丢掉些东西，而丢掉的部分往往恰好是投研里最要命的那部分：长材料里跨段落的关联能力。

这一点在实际用起来的时候表现得特别明显。读一页新闻稿，本地和云端的差距你可能看不出来；读一份几百页的年报，让它把分散在管理层讨论、财务附注、分部信息三个地方的数字对上，差距立刻就拉开了。长材料该怎么喂进去，几百页的材料怎么喂给 AI 那一节讲了三条路，本地模型走每一条都更吃力。

这也不是我的主观印象，开源项目的配置里就写着。开源 AI 投研项目 Vibe-Trading 把本地推理服务和各家云端厂商并列成同一层的可选项，给它的标注是「本地、免费、不需要密钥」——注意这行标注里，没有一个字提到能力。同一个项目的配置文件里还专门留了一条注释：使用本地模型时，要把前端的等待超时调大。一个项目会为某个选项单独放宽超时，这件事本身就说明了这个选项的性能特征。

代价大致是四条。

慢。 同一个任务，等待时间不在一个量级上。这会反过来改变你的使用方式——你会不自觉地少问、问得粗，而反复追问恰恰是把 AI 用出深度的关键动作，这一点在 多轮追问 那一节里说得很细。

长材料吃力。 材料一长，遗漏、张冠李戴、把两家公司的数字串到一起，这些错都会变多。

指令遵循容易散。 你要求它按固定格式输出，要求它每个数字都标注来自原文哪一处，本地模型更容易照做几轮之后就开始漂移。

维护成本落在你身上。 装好只是开始，还有更新、依赖冲突、机器被占用。你省下的调用费用，未必抵得上你花掉的时间——这笔账具体怎么算，什么活值得用最贵的模型 那一节给了完整的算法。

澄清一个混淆：量化里的「本地模型」有两个意思

在量化的语境里，「模型」这个词经常指的根本不是聊天式的大语言模型，而是你自己训练出来的那个预测模型。而这一类模型从来就是本地的。

开源量化框架 freqtrade 的机器学习模块，训练完的模型直接落在你自己磁盘上的模型目录里，还给了参数让你控制磁盘上保留几份旧模型、回测的时候要不要把模型也存下来。你的特征怎么构造、标签怎么定义、模型学到了什么，全程没有离开过你的机器。

所以当有人跟你说「做量化必须本地」，先问清楚他说的是哪一个。如果指的是自己训练的预测模型，那句话是废话——它本来就在本地。如果指的是大语言模型，那才是这一节要讨论的取舍。这两件事混着说，是最常见的一种糊涂。

那个不太好听但诚实的结论

摊开讲：对绝大多数个人投资者，本地模型解决的是心理问题，不是能力问题。

这话不是贬低。心理问题也是问题，装好之后那种「我的东西没出门」的踏实感是真实的价值。但你得知道自己买的是什么：你买的是安心，付的价是能力和时间。这笔交易在处理第三类材料的时候非常划算，在处理第一类材料的时候是纯白付。

真正该关心的问题不是「模型跑在哪」，是「我发出去的到底是什么」。

一个人可以把本地部署做得滴水不漏，然后转头在云端对话框里连着问二十家公司同一个筛选条件，把自己整套研究框架完完整整交代了一遍。反过来，一个全程用云端的人，只要发出去的都是公开材料、问的问题都做过意图脱敏，暴露的东西可能比前者还少。

位置不等于安全，内容才等于安全。

三个比折腾部署更管用的动作

动作一，给材料分级，贴在显示器边上。 就是上面那三类，写成三行。粘贴之前扫一眼自己在第几类。这个动作花不了三秒，却能拦下你几乎全部的真风险。

动作二，把意图从问题里摘出来。 你想问「这家公司的应收账款账龄结构有没有恶化」，可以改成：把年报里相关的附注段落原样贴进去，然后问「这段数据反映的账龄结构呈现什么变化」。得到的答案一样，但你的候选池和研究方向没有跟着一起发出去。养成这个改写习惯的收益，比你折腾一晚上部署要大得多。

动作三，本地打底，云端出活。 如果你手上确实有一批第三类材料，别指望本地模型把整件事从头做到尾。让它干它扛得住的那一段——把材料里的人名、机构名、具体标的替换成代号，或者把长材料压成一份不含敏感信息的要点。脱敏之后的版本，再交给能力更强的云端模型做真正吃力的分析。这是分工，不是妥协。

到底该不该装：两个问题

问题一，过去一个月，你有几次是在处理第三类材料？ 如果答案是零次，或者一两次，装了大概率吃灰。

问题二，如果本地模型比你现在用的慢不少、读长材料还会漏，你还会用它吗？ 老实回答。很多人在这一问上骗自己，装好之后用两次就回去了，只留下一堆占硬盘的东西。

两个问题都答「是」，那就装。装完别急着下结论，按 别问哪个模型最强，自己出一套题测它 的做法，用你自己的材料出一套题，让本地那个和你平时用的那个跑同一套，看看差距具体落在哪几类活儿上。测出来的差距才是你做取舍的依据，别人嘴里那句「本地也够用了」不是。

还有一条边界不会因为模型跑在哪而改变：无论本地还是云端，最终按下那个按钮的，始终得是你自己。这一条在 有三件事，无论 AI 多好用都别交给它 里讲得很清楚。

一句话记住

别纠结那个东西装在哪台机器上，先看清你往里面倒的是什么——倒的是全世界都能下载的东西，装哪儿都一样；倒的是只有你自己知道的东西，那就先想想能不能少倒一点。