DeepTutor 本地部署指南:三步跑起一台完全离线的 AI 学习助手
2026/9/7 23:53:25 网站建设 项目流程

DeepTutor 本地部署指南:三步跑起一台完全离线的 AI 学习助手

【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor

DeepTutor 是一个开源的 AI 个性化学习工作台,把聊天答疑、知识库检索、协同写作、题库与记忆系统整合在一起。这篇文章讲一件事:如何把它和 Ollama(一个在本机托管开源大模型的运行时)配起来,让所有学习和对话数据都只留在你自己的机器上——一次拉好模型,之后断网也能用。

先想清楚:你到底需不需要"离线"这套方案

云 API 的大模型有三个绕不开的短板:

  • 数据出机器:你的笔记、课件、聊天记录都会经过第三方服务;
  • 按量计费:学习是高频使用场景,调用费用会持续累积;
  • 断网即停摆:没有网络,工具就只剩一个空壳。

如果你的学习材料比较敏感(论文草稿、课程内部资料),或者使用环境网络不稳定,把推理环节挪到本地是很自然的想法。DeepTutor 在这件事上的设计比较到位:它的模型接入层同时支持云端提供商和本地推理引擎,Ollama、LM Studio、llama.cpp、vLLM 都在支持名单里,切换只是在设置里改一个 Base URL 的事。相关实现在 deeptutor/services/llm/local_provider.py。

三步把它跑起来

第一步:装好 DeepTutor 本体

推荐直接用 PyPI 包,需要 Python 3.11–3.13 和 Node.js 20+:

mkdir my-deeptutor && cd my-deeptutor pip install -U deeptutor deeptutor init deeptutor start

deeptutor init会依次问你后端端口(默认 8001)、前端端口(默认 3782)、LLM 提供商与模型;deeptutor start启动后,浏览器打开终端里打印的地址即可,默认是http://127.0.0.1:3782

如果你更喜欢源码安装(例如要参与开发),把上面换成:

git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor cd DeepTutor python3 -m venv .venv && source .venv/bin/activate python -m pip install -e . ( cd web && npm ci --legacy-peer-deps ) deeptutor init deeptutor start --dev

也可以走 Docker 单容器方式,只暴露 3782 一个端口即可,完整说明见 CONTAINERIZATION.md。

第二步:在本机跑起 Ollama

Ollama 可以理解为一个"本地模型服务":它把开源模型包成 HTTP 服务,DeepTutor 通过 URL 调用它。安装后拉一个模型,比如:

ollama pull wizardlm2:7b

模型大小要匹配硬件。7B 级别一般 8GB 内存就能跑,但要流畅些建议 16GB 起步;显存更紧张时可以选 1B–3B 的轻量模型先体验流程。

第三步:把 DeepTutor 指向本地端点

本地安装时,在Settings → Models里添加一个 Ollama 的 LLM profile:

  • Base URL 填http://localhost:11434/v1
  • 模型名填你拉下来的名称,如wizardlm2:7b

如果之后还想让知识库具备检索(RAG)能力,需要再配一个 embedding 模型,Ollama 同样支持,端点是http://localhost:11434/api/embed,对接代码在 deeptutor/services/embedding/adapters/ollama.py。

配完保存,回到聊天页发一条消息验证一下:如果回复来自本地模型而不是云端,说明链路已经通了。

跑起来之后,值得上手试的几件事

把资料变成知识库

DeepTutor 的 Knowledge Center 支持多引擎 RAG(LlamaIndex、GraphRAG、LightRAG 等),你可以把 PDF、Word、Markdown 传进去建一个知识库,之后提问时勾选它,回答就会基于你自己的资料并给出引用。

这是离线场景下最实用的能力:教材、论文、笔记全部本地入库,检索和生成都发生在机器内部。

聊天:一个统一的 Agent 循环

Chat 不只是问答。同一个对话里你可以让助手调工具、读附件、查知识库、写笔记,甚至中途咨询一个本地编码 CLI 子代理,上下文在整个回合中保持连续。

Co-Writer:和本地模型一起改稿

写论文、整理笔记时,Co-Writer 面板可以实时协作:它理解上下文、给修改建议、支持 LaTeX 公式。本地模型在长文本编辑上比云端小一档能力,但"改一段、润色一下"这类任务完成度足够。

记忆:个性化是可以看见的

DeepTutor 把记忆分成三层(原始 trace、表层摘要、综合提炼),Memory 页面还有记忆图谱,能追溯每一条"它为什么这样认为你"的依据,而且可以直接编辑。做长期学习助手,这个可解释性比"它记得你"本身更重要。

![DeepTutor 三层记忆图谱:可编辑的离线个性化记忆](https://raw.gitcode.com/GitHub_Trending/dee/DeepTutor/raw/5a197bd143b8c644b1a33783f39bed40a5329a56/assets/figs/web-1.4.6+/memory/01-3 layer memory graph.png?utm_source=gitcode_repo_files)

离线部署避坑清单

  1. 容器里的 localhost 不是你的机器:用 Docker 部署时,容器内的localhost指向容器自己。要访问宿主机的 Ollama,需加--add-host=host.docker.internal:host-gateway,然后 Base URL 改成http://host.docker.internal:11434/v1
  2. 响应慢不一定是 Ollama 的问题:先确认模型已经ollama pull完成并加载,再考虑换更小的模型、降低并发。
  3. 知识库目录要可写:所有运行时数据(设置、记忆、知识库、笔记)都落在工作目录下的data/user/settings/及相邻工作区里,别把项目放在只读盘上。
  4. 端口冲突先看终端输出deeptutor init允许改端口;被占用时终端会提示实际监听地址,别只盯默认值。
  5. 依赖装不全先查 requirements 分类:完整依赖见 requirements/server.txt, Partners 的 IM 通道、Math Animator 等是可选附加项,按需再装,能省不少时间。

它适合谁,不适合谁

适合:学习材料涉密、网络不稳定、想控制长期调用成本、或者对"数据去哪了"有明确顾虑的人。

不太适合:指望本地 7B 模型达到前沿大模型的推理水平——复杂的数学证明、多步代码工程,本地模型仍会明显吃力;这类任务更适合"本地为主 + 云端兜底"的混合用法,DeepTutor 的多 provider 配置天然支持这种切换。

想深入的话,从这里看起

  • 系统整体结构:deeptutor/ 下按agents/services/knowledge/partners/分模块,入口在 deeptutor/api/main.py
  • 架构总览图:assets/figs/system/system architecture.png
  • 本地模型适配层:deeptutor/services/llm/
  • 依赖分类:requirements/

离线不等于功能缩水。把模型留在本地、把学习数据留在本地,DeepTutor 给出的是一套完整可落地的路径——上面的三步走完,你的 AI 学习助手就已经和公网没关系了。

【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询