Open WebUI 本地跑通:Ollama 模型 + 浏览器对话的完整路径
【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui
Open WebUI 是一个自托管的 WebUI,让你在浏览器里用上 Ollama 本地模型、OpenAI 兼容 API,附带 RAG 知识库和语音能力。读完下面四步,10 分钟内你会有一个跑在 http://localhost:3000 的本地 AI 对话页面,数据不出机器。
跑起来之前
先确认这几项,能省后面 80% 的排查时间:
- Docker 和 Docker Compose 已安装(Compose 建议 2.x 及以上)
- 3000 端口空闲
- 预留约 5GB 磁盘(镜像加一个 7B 模型)
- 网络能拉到 ollama 官方镜像,内网环境提前配好镜像源
docker --version && docker compose version部署,只有这几步
- 克隆仓库:
git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui- 启动服务。默认监听 3000 端口,compose 文件里 ollama 和 open-webui 两个容器一起起:
docker compose up -d- 验证。打开浏览器访问 http://localhost:3000,看到注册页即成功;注册的第一个账户自动成为管理员。模型下拉框里出现 Ollama 拉取的模型后,就可以开始对话。
跑通之后先试这三个功能
接上 Ollama 本地模型
compose 文件已把 Ollama 容器和OLLAMA_BASE_URL都配好,open-webui 会自动发现容器内的模型。拉一个模型试试:
docker compose exec ollama ollama pull qwen2.5:7b刷新对话页,顶部下拉框选中它即可。所有推理走本机,不依赖外网。
丢一份 PDF 进去做 RAG 问答
在聊天输入框直接拖入 PDF 或 Markdown,模型会基于文档内容回答,适合查论文、报告。长期要用的文档建议进知识库:左侧 Knowledge 菜单新建库并上传,聊天时输入#加库名即可引用。
对话开语音
语音输入、输出分别由 STT/TTS 驱动,内置本地 Whisper、OpenAI、Deepgram 等多个提供方。在 Settings 里填好对应服务的 API Key,对话页按住麦克风按钮就能边说边转成文字,不用手动打字。
大概率会遇到的两个坑
如果你遇到端口冲突——访问 3000 端口返回的不是 Open WebUI,说明 3000 被其他服务占了。原因是 compose 文件写死了 3000:8080 的映射,启动前加一个环境变量即可切端口:
OPEN_WEBUI_PORT=3001 docker compose up -d如果你遇到模型下载卡住——ollama pull半天没动静,多是网络拉不动 Ollama 模型仓库。可以给 Ollama 配置镜像源,或手动下载模型文件放进容器卷,仓库根目录的 TROUBLESHOOTING 文档 有对应说明。
Open WebUI 最核心的地方在于:从对话、知识库到语音,全链路都能跑在本机,数据不出机器。想接企业 SSO 或 LDAP,认证相关实现可以看 OAuth 工具模块。
【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考