DeepTutor 本地部署指南:三步跑起一台完全离线的 AI 学习助手
【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor
DeepTutor 是一个开源的 AI 个性化学习工作台,把聊天答疑、知识库检索、协同写作、题库与记忆系统整合在一起。这篇文章讲一件事:如何把它和 Ollama(一个在本机托管开源大模型的运行时)配起来,让所有学习和对话数据都只留在你自己的机器上——一次拉好模型,之后断网也能用。
先想清楚:你到底需不需要"离线"这套方案
云 API 的大模型有三个绕不开的短板:
- 数据出机器:你的笔记、课件、聊天记录都会经过第三方服务;
- 按量计费:学习是高频使用场景,调用费用会持续累积;
- 断网即停摆:没有网络,工具就只剩一个空壳。
如果你的学习材料比较敏感(论文草稿、课程内部资料),或者使用环境网络不稳定,把推理环节挪到本地是很自然的想法。DeepTutor 在这件事上的设计比较到位:它的模型接入层同时支持云端提供商和本地推理引擎,Ollama、LM Studio、llama.cpp、vLLM 都在支持名单里,切换只是在设置里改一个 Base URL 的事。相关实现在 deeptutor/services/llm/local_provider.py。
三步把它跑起来
第一步:装好 DeepTutor 本体
推荐直接用 PyPI 包,需要 Python 3.11–3.13 和 Node.js 20+:
mkdir my-deeptutor && cd my-deeptutor pip install -U deeptutor deeptutor init deeptutor startdeeptutor init会依次问你后端端口(默认 8001)、前端端口(默认 3782)、LLM 提供商与模型;deeptutor start启动后,浏览器打开终端里打印的地址即可,默认是http://127.0.0.1:3782。
如果你更喜欢源码安装(例如要参与开发),把上面换成:
git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor cd DeepTutor python3 -m venv .venv && source .venv/bin/activate python -m pip install -e . ( cd web && npm ci --legacy-peer-deps ) deeptutor init deeptutor start --dev也可以走 Docker 单容器方式,只暴露 3782 一个端口即可,完整说明见 CONTAINERIZATION.md。
第二步:在本机跑起 Ollama
Ollama 可以理解为一个"本地模型服务":它把开源模型包成 HTTP 服务,DeepTutor 通过 URL 调用它。安装后拉一个模型,比如:
ollama pull wizardlm2:7b模型大小要匹配硬件。7B 级别一般 8GB 内存就能跑,但要流畅些建议 16GB 起步;显存更紧张时可以选 1B–3B 的轻量模型先体验流程。
第三步:把 DeepTutor 指向本地端点
本地安装时,在Settings → Models里添加一个 Ollama 的 LLM profile:
- Base URL 填
http://localhost:11434/v1 - 模型名填你拉下来的名称,如
wizardlm2:7b
如果之后还想让知识库具备检索(RAG)能力,需要再配一个 embedding 模型,Ollama 同样支持,端点是http://localhost:11434/api/embed,对接代码在 deeptutor/services/embedding/adapters/ollama.py。
配完保存,回到聊天页发一条消息验证一下:如果回复来自本地模型而不是云端,说明链路已经通了。
跑起来之后,值得上手试的几件事
把资料变成知识库
DeepTutor 的 Knowledge Center 支持多引擎 RAG(LlamaIndex、GraphRAG、LightRAG 等),你可以把 PDF、Word、Markdown 传进去建一个知识库,之后提问时勾选它,回答就会基于你自己的资料并给出引用。
这是离线场景下最实用的能力:教材、论文、笔记全部本地入库,检索和生成都发生在机器内部。
聊天:一个统一的 Agent 循环
Chat 不只是问答。同一个对话里你可以让助手调工具、读附件、查知识库、写笔记,甚至中途咨询一个本地编码 CLI 子代理,上下文在整个回合中保持连续。
Co-Writer:和本地模型一起改稿
写论文、整理笔记时,Co-Writer 面板可以实时协作:它理解上下文、给修改建议、支持 LaTeX 公式。本地模型在长文本编辑上比云端小一档能力,但"改一段、润色一下"这类任务完成度足够。
记忆:个性化是可以看见的
DeepTutor 把记忆分成三层(原始 trace、表层摘要、综合提炼),Memory 页面还有记忆图谱,能追溯每一条"它为什么这样认为你"的依据,而且可以直接编辑。做长期学习助手,这个可解释性比"它记得你"本身更重要。

离线部署避坑清单
- 容器里的 localhost 不是你的机器:用 Docker 部署时,容器内的
localhost指向容器自己。要访问宿主机的 Ollama,需加--add-host=host.docker.internal:host-gateway,然后 Base URL 改成http://host.docker.internal:11434/v1。 - 响应慢不一定是 Ollama 的问题:先确认模型已经
ollama pull完成并加载,再考虑换更小的模型、降低并发。 - 知识库目录要可写:所有运行时数据(设置、记忆、知识库、笔记)都落在工作目录下的
data/user/settings/及相邻工作区里,别把项目放在只读盘上。 - 端口冲突先看终端输出:
deeptutor init允许改端口;被占用时终端会提示实际监听地址,别只盯默认值。 - 依赖装不全先查 requirements 分类:完整依赖见 requirements/server.txt, Partners 的 IM 通道、Math Animator 等是可选附加项,按需再装,能省不少时间。
它适合谁,不适合谁
适合:学习材料涉密、网络不稳定、想控制长期调用成本、或者对"数据去哪了"有明确顾虑的人。
不太适合:指望本地 7B 模型达到前沿大模型的推理水平——复杂的数学证明、多步代码工程,本地模型仍会明显吃力;这类任务更适合"本地为主 + 云端兜底"的混合用法,DeepTutor 的多 provider 配置天然支持这种切换。
想深入的话,从这里看起
- 系统整体结构:deeptutor/ 下按
agents/、services/、knowledge/、partners/分模块,入口在 deeptutor/api/main.py - 架构总览图:assets/figs/system/system architecture.png
- 本地模型适配层:deeptutor/services/llm/
- 依赖分类:requirements/
离线不等于功能缩水。把模型留在本地、把学习数据留在本地,DeepTutor 给出的是一套完整可落地的路径——上面的三步走完,你的 AI 学习助手就已经和公网没关系了。
【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考