断网也能用的免费本地离线 AI 知识库:Obsidian Local GPT 十个步骤全落地
【免费下载链接】obsidian-local-gptLocal Ollama and OpenAI-like GPT's assistance for maximum privacy and offline access项目地址: https://gitcode.com/gh_mirrors/ob/obsidian-local-gpt
周日下午,我瘫在沙发上想整理上周的读书笔记。Wi-Fi 时好时坏,云端 AI 转圈转了三分钟,最后回了我一句"请检查网络连接"。那一刻我意识到,把最私密的笔记交给在线服务,还要看它的脸色,实在不是长久之计。也是从那天起,我开始认真寻找一款能彻底离线运行的本地 AI 助手,最终在 Obsidian 生态里遇到了 Local GPT 插件——所有推理都在你电脑上完成,断网照常工作,数据一步不出设备。
这篇指南会陪你把插件从下载到跑通全流程走一遍,并附上一套能立刻复用的实战方法,全程不需要写一行代码。
先把话说明白:本地离线 AI 到底比云端强在哪
先说结论:Local GPT 不是又一个"聊天窗口",它是长在笔记正文里的一双手。你选中一段文字,右键就能让 AI 续写、总结、改语法、提取行动项;它也支持选中图片直接交给多模态模型识别,或是对 PDF 链接做增强分析。
把它和常见的两类方案放在一起看,差异会更直观:
| 对比维度 | 云端 AI 插件 | 普通本地 AI 工具 | Obsidian Local GPT |
|---|---|---|---|
| 网络依赖 | 必须联网 | 基本离线 | 完全离线,断网可跑 |
| 数据流向 | 上传服务器 | 留在本机 | 100% 留在本机 |
| 与笔记联动 | 粘贴复制 | 弱 | 选中即处理,结果写回正文 |
| 反向链接/PDF 上下文 | 不支持 | 不支持 | 内置 RAG,自动抓取关联笔记 |
| 多语言界面 | 视厂商 | 视厂商 | 内置 11 种语言,跟随 Obsidian 切换 |
表格里最值得展开的就是最后一行。你选中一句话,插件会顺着笔记里的双链、反链甚至 PDF 文献自动拉取相关资料,作为上下文喂给模型。这意味着你问"这份会议纪要里有哪些待办",它回答时真的去读了相关文档,而不是凭空猜测。这套检索增强逻辑的核心实现就在源码的 src/rag.ts 里,想深入研究的读者可以从这里入手。
三十分钟部署实录:从下载到首次成功对话
本地离线 AI 的部署没有想象中复杂,按时间线走就行。我们以 Ollama 作为推理后端演示,全程大约需要 30 分钟(不含模型下载时间)。
第 0-5 分钟:准备运行时。先去 Ollama 官网下载对应系统的客户端并安装,然后打开终端拉取两个模型——推理模型负责回答,嵌入模型负责检索:
- 英文笔记为主:
ollama pull nomic-embed-text - 中文等多语言笔记:
ollama pull bge-m3
第 6-15 分钟:安装插件本体。打开 Obsidian → 设置 → 第三方插件 → 关闭安全模式 → 浏览社区插件,搜索 "Local GPT" 安装并启用。这一步会自动装上 manifest、main.js 和 styles.css 三件套,不需要手动拷贝。
第 16-25 分钟:配置 AI 服务。Local GPT 自己不直接对接模型 API,而是通过配套的 AI Providers 插件统一管理提供商。所以还要在社区插件里搜索并安装 AI Providers,然后在它的设置里新增一个 Ollama 提供商,填上本地地址和模型名,再把嵌入模型也指到 nomic-embed-text 或 bge-m3。
第 26-30 分钟:绑定快捷键并首测。进入 Obsidian 设置 → 快捷键,搜索 "Local" 找到两项:给"显示上下文菜单"绑一个顺手的组合键,比如Ctrl+M;再给"动作面板"绑上Ctrl+J。回到任意笔记,选中一句话按Ctrl+J,输入"帮我总结这段"回车——如果光标处开始逐字出现回复,就说明整条链路已经通了。
部署过程中没有界面截图可参考时,有一个笨办法:任何一步报错,先看 Obsidian 开发者控制台(
Ctrl+Shift+I)的报错信息,它通常直接告诉你缺模型还是缺连接。
实战:把一篇杂乱资料变成可检索的知识卡片
光能跑通不算本事,下面我们用一个完整案例演示它如何改变日常。任务:把手头一篇 3000 字的行业报告草稿,整理成一张张可检索的知识卡片。
第一步,把报告的正文粘贴进一篇 Obsidian 笔记,标题起为"行业报告-原始稿"。 第二步,全选正文,右键选择"总结文本",本地 AI 会把长文压缩成几个核心观点段落,直接插入原文之后。 第三步,给每条核心观点单独建笔记,并在笔记里写下[[行业报告-原始稿]]这样的双链。这里的价值在于:以后你再打开新笔记问 AI"这条结论的依据是什么",插件会顺着双链把原始报告拉进来作为上下文,回答就有出处。 第四步,处理其中的 PDF 参考文献:把 PDF 拖进库中,在笔记里插入它的链接,选中该链接调用"增强分析"动作,插件会自动提取 PDF 文本并结合笔记上下文生成解析。
最终你会得到一个"卡片笔记 → 原始资料 → PDF 文献"互相咬合的知识网络,而这一切都发生在本地,不产生任何云端请求。想调整 AI 的输出格式,比如让它固定输出"观点+依据+来源"三段式,可以在 docs/prompt-templating.md 里学习模板占位符的用法,像{{=SELECTION=}}控制选中文本位置、{{=CONTEXT=}}控制上下文位置,改完保存即生效。
效率提速清单:今天就能勾掉的五个习惯
下面的每一条都是即装即用的小动作,照着做就能明显感觉顺手:
- 给常用操作各绑一个快捷键,比如
Ctrl+M呼出上下文菜单、Ctrl+J打开动作面板,比鼠标右键快一倍 - 把"提取行动项"绑定到你每周复盘笔记,会议纪要点一下就能产出待办列表
- 新建动作时自定义系统提示词,把"你是专业学术编辑,回答需附出处"写进去,让每次输出都符合你的口味
- 中文用户把嵌入模型换成 bge-m3,检索准确率比默认英文模型高一个档次
- 在设置里浏览社区动作库,看到合适的直接安装,系统会自动更新到最新版
避坑指南:老用户替你踩过的六个坑
| 可能踩的坑 | 应对方案 |
|---|---|
| 报"模型未找到" | 回到 Ollama 确认模型已拉取,且 AI Providers 里选对了模型名,注意大小写 |
| 检索到的上下文完全无关 | 动作面板模式下,你的提问本身是唯一检索信号,问题里要写清楚主题词 |
| 中文检索效果差 | 把嵌入模型切到 bge-m3,不要用英文专用模型 |
| 动作面板提交前看不到内容 | 这是设计如此:面板会以"芯片"形式列出所有将发送的文件,可逐个移除,提交前请务必确认 |
| PDF 无法解析 | 确认文件是文本型 PDF 而非扫描图片,扫描件需先做 OCR |
| 插件更新后动作行为变化 | 社区动作默认自动更新;想锁版本,改一下它的提示词即可关闭自动更新 |
收尾:让每一次思考都留在自己的地盘里
本地离线 AI 的价值,说到底是把"AI 能力"和"隐私主权"同时装进了同一个笔记软件。你不需要再为网络波动焦虑,也不用担心私密想法被服务器记住。今天就可以动手:装好插件、拉下模型、把快捷键绑上,然后拿一篇旧笔记试试"总结文本"。
想深入研究的读者,推荐从这几处源码读起:插件入口在 src/main.ts,RAG 检索链路在 src/rag.ts,提示词模板语法在 docs/prompt-templating.md,架构总览在 docs/local-gpt-architecture.md。动手之前,先在自己的库上跑一遍基准测试:npm test -- tests/RAG.benchmark.test.ts,看看 61 个笔记图场景能通过多少,或许你也会被它的严谨程度惊讶到。
本地知识库的下一步,就由你自己来定义。
【免费下载链接】obsidian-local-gptLocal Ollama and OpenAI-like GPT's assistance for maximum privacy and offline access项目地址: https://gitcode.com/gh_mirrors/ob/obsidian-local-gpt
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考