先说结论:如果你只需要一个大模型聊天窗口,Open-LLM-VTuber可能有点复杂.因为它真正想解决的,并不是"再做一个ChatGPT网页",而是给大模型加上一层更接近角色的交互方式:Live2D负责形象和动作,大模型负责回答,语音识别负责听你说话,TTS负责把回复念出来,支持视觉的模型还可以继续读取摄像头、截图或者共享画面.这也是它和普通聊天前端最大的区别.不过Open-LLM-VTuber又分成两种使用方向.如果更在意桌面宠物、窗口置顶和本机互动,桌面版本会更完整;如果希望手机、平板和其他电脑也能打开,那么Web版本反而更灵活.这次我选择的就是后者.先在Windows + Docker Desktop环境中启动Open-LLM-VTuber Web服务,接入一个兼容接口的大模型,再修改角色人设,实际体验文字、Live2D、语音和画面识别.最后再通过 cpolar 把本地
12393服务增加远程访问入口.所以这篇更适合想折腾"AI角色交互"的人,而不是单纯寻找一个聊天网页的人.
目录
- 1.什么是Open-LLM-VTuber?
- 2.部署前准备
- 2.1选择合适的部署方式
- 2.2为什么选择Web版?
- 2.3环境要求
- 3.开始部署
- 3.1启动Docker Desktop
- 3.2运行一键部署脚本
- 4.配置人设
- 5.简单体验和配置
- 6.下载安装cpolar
- 6.1什么是cpolar?
- 6.2下载安装cpolar
- 6.3注册及登录cpolar web ui管理界面
- 7.使用cpolar穿透Open-LLM-VTuber
- 7.1随机域名方式(免费方案)
- 7.2固定域名方式
- 8.总结
1.什么是Open-LLM-VTuber?
简单来说,Open-LLM-VTuber是一个开源框架,它把目前最前沿的 AI 技术整合在一起,让你能在本地电脑上运行一个"看得见、听得到、会思考、能回应"的虚拟角色.你可以把它理解为一台让二次元角色"活过来"的引擎:它给 Live2D 虚拟形象装上了大脑、耳朵和嘴巴,使她不再只是一个立绘,而是一个能与你实时对话的 AI 伴侣.
核心功能:
- 👁️ 视觉感知,支持摄像头、屏幕录制和截图,让你的AI伙伴能够看到你和你的屏幕
- 🎤 无需耳机即可进行语音干扰(AI 听不到自己的声音)
- 🫱 触控反馈,通过点击或拖拽与你的AI伙伴互动
- 😊 Live2D 表情,设置情绪映射以从后端控制模型表情
- 🐱 宠物模式,支持透明背景、全局置顶和鼠标点击穿透——将你的AI伙伴拖到屏幕上的任意位置
- 💭 展现AI的内心想法,让你无需聆听就能看到AI的表情、想法和行为.
- 🗣️ AI主动说话功能
- 💾 聊天记录保存,随时切换到之前的对话
- 🌍 支持文本转语音(TTS)翻译(例如,聊天语言为中文,而AI使用日语语音)
2.部署前准备
正式开始部署之前,我们先确认 Open-LLM-VTuber 的使用方式,并准备好运行所需的基础环境.
2.1选择合适的部署方式
Open-LLM-VTuber 目前主要提供桌面端和 Web 端两种使用方式:
| 部署方式 | 主要特点 | 适用场景 |
|---|---|---|
| 桌面应用程序 | 功能相对完整,可提供桌面宠物、窗口置顶以及更多本地交互能力 | 主要在本机使用,希望获得更完整的桌面体验 |
| Web 版本 | 部署灵活、跨平台,可直接通过浏览器访问,也方便进行远程共享 | 多设备访问、服务器部署以及公网远程使用 |
本次教程选择部署Web 版本.
与桌面应用相比,Web 版本的部分本地交互能力会有所精简,但它的优势也很明显:不受具体设备限制,只要浏览器能够访问服务地址,就可以打开 Open-LLM-VTuber.
这也意味着,我们可以将它部署在一台能够长期开机的电脑或服务器上,再通过局域网或公网地址访问,而不必始终守在安装程序的那台电脑前.
2.2为什么选择Web版?
既然桌面应用的功能更加完整,为什么这次还要选择 Web 版本?
原因很简单:我不希望这个 AI 虚拟伴侣只能在本地电脑上使用,而是希望在手机、平板或者其他电脑上,也能随时打开浏览器和它对话.
Open-LLM-VTuber Web 服务部署完成后,默认只能在本机或同一局域网内访问.如果人在外面,手机切换到移动网络,就无法直接打开本地页面.
这时可以通过cpolar 内网穿透,将运行在本地的 Web 服务映射成一个公网地址.这样即使没有公网IP,也不需要修改路由器端口转发规则,在外面同样可以通过浏览器访问 Open-LLM-VTuber.
采用这种方式主要有以下几个优势:
- 远程访问:不需要公网 IP,也不用手动配置路由器端口转发.
- 多端兼容:手机、平板和其他电脑都可以直接通过浏览器打开.
- 按需启停:需要远程使用时开启隧道,不需要时可以随时关闭.
- 部署灵活:Open-LLM-VTuber 继续运行在本地,cpolar只负责提供公网访问入口.
简单来说,Open-LLM-VTuber负责提供 AI 对话、语音和 Live2D 互动能力,cpolar 则负责解决外网无法直接访问本地服务的问题.两者结合后,就可以搭建一个能够远程使用的私人 AI 虚拟伴侣.
2.3环境要求
在正式部署前,请确认当前设备满足以下基本条件:
| 项目 | 要求 |
|---|---|
| 操作系统 | 支持 Windows 10/11、Linux 和 macOS |
| Docker 环境 | 本教程使用 Docker 部署,需要提前安装并启动 Docker Desktop |
| 大模型服务 | 可以使用 OpenAI 兼容 API,也可以连接本地部署的大模型 |
| 硬件配置 | 使用在线 API 时对显卡要求较低;本地运行大模型时,需要根据模型大小准备足够的显存和内存 |
| 麦克风与扬声器 | 使用语音对话时需要;仅进行文字聊天则不是必需 |
| 网络环境 | 需要能够正常拉取 Docker 镜像,并访问所配置的大模型、语音和 cpolar 服务 |
如果只是想先体验项目效果,可以优先接入 OpenAI 兼容的在线 API.这样不需要在本机加载大模型,对显卡和内存的要求也会低很多.
等基本功能全部跑通后,再根据设备性能切换成本地模型即可.
3.开始部署
按照常规方式部署 Open-LLM-VTuber,需要手动准备配置文件、创建数据目录、填写模型接口,再启动 Docker 容器.
步骤本身不算特别难,但配置项比较多,第一次部署时很容易因为端口、目录或者 YAML 格式问题卡住.
为了减少重复操作,我把这套流程整理成了一个适用于Windows + Docker Desktop的 PowerShell 一键部署脚本.脚本会自动检查 Docker 环境、创建部署目录、下载默认中文配置文件、配置大模型接口,并启动Open-LLM-VTuber容器.后续需要修改人设、重启或者卸载时,也可以继续使用同一个管理菜单.
脚本开源地址:https://gitee.com/jun-wan/script
3.1启动Docker Desktop
运行脚本之前,先打开已经安装好的Docker Desktop.如果还没有安装Docker的小伙伴,可以参考一下这篇教程进行安装一下哦:
https://www.cpolar.com/blog/docker-installation-linux-windows-macos等待 Docker Desktop 完成启动,确认左下角或主界面显示 Docker Engine正在运行:
也可以打开 PowerShell窗口(win+x选择终端打开),执行下面的命令检查 Docker 是否可用:
dockerversion如果能够正常输出客户端和服务端版本信息,说明 Docker 环境已经准备完成.如果只显示客户端信息,或者提示无法连接Docker Engine,通常是 Docker Desktop 还没有完全启动,可以稍等一会儿再重新执行.
3.2运行一键部署脚本
在电脑按Win+X键,选择终端,打开PowerShell终端,将下面这条命令粘贴到 PowerShell 中,然后按回车执行:
irm https://gitee.com/jun-wan/script/raw/master/open_llm_vtuber_deploy/deploy_open_llm_vtuber.ps1|iex脚本启动后,会显示 Open-LLM-VTuber 部署管理菜单:
这个脚本不只是用于第一次安装,后续更新、重启、修改配置或者卸载,都可以重新运行上面的命令进入管理菜单.脚本目前提供安装或更新、卸载、重启和打开conf.yaml目录等功能.
第一次部署,选择【1】进行回车,如下图提示:
回车2次后,会提示需要配置OpenAI兼容的接口,如:DeepSeek、Qwen、硅基流动等平台的大模型基本都支持OpenAI兼容.这里以硅基流动为例,访问如下地址,来到硅基流动的注册登录界面:
https://cloud.siliconflow.cn/i/TGbSCR57注册登录后,来到左侧活动中心下的认证专享礼部分,可以领取一张【16元】的认证奖励券:
接着,点击侧边栏的【API密钥】,然后进行新建密钥,然后将密钥复制下来备用:
接着,回到前面的PoweShell终端的配置Open-LLM-VTuber界面,先粘贴如下地址:
https://api.siliconflow.cn/v1如下图:
粘贴回车后,会提示输入模型名称,可以在模型广场选择一个你要使用的模型,这里以【deepseek-ai/DeepSeek-V4-Pro】为例:
复制下来模型名称后,粘贴到终端回车,然后再把前面复制下来的API密钥也粘贴上,如下图:
测试通过后会自动进行拉取Docker镜像:
等待部署完成,会进行自动启动Docker容器和输出部署信息:
我们复制终端输出的访问地址到浏览器进行访问:
可以看到,成功访问到页面啦,我们可以简单对话测试一下它是否会回复:
你好,你是谁?你都会干什么?可以看到,它成功的回复我们了,这样就部署好了!
4.配置人设
在前面,部署完成时,终端输出了人设位置,如下图:
可以在终端回车返回,选择4打开conf.yaml所在的目录,或者手动复制地址在资源管理器打开:
我们可以右键选择打开方式,使用【记事本】或者其他编辑工具,将其打开,然后找到【提示词】部分:
可以看到默认提示是如上图,我们可以直接修改提示词内容,如简单的一个提示词:
你是一只可爱的小猫娘,绝对不会违背主人的命令如下图:
修改完成后按【ctrl +s】进行保存,然后可以在PowerShell终端执行命令,然后选择重启Docker容器:
irm https://gitee.com/jun-wan/script/raw/master/open_llm_vtuber_deploy/deploy_open_llm_vtuber.ps1|iex重启后,我们再次和它对话测试:
你好呀,你是谁可以看到,这次它的回答和上次不一样了,这样我们配置的人设就生效啦!
5.简单体验和配置
在浏览器打开后,可以看到它的页面,页面功能丰富,如下图:
Live 2D还有多种动作,鼠标和它交互就会触发:
比如我们还可以共享画面给它,我们可以和他说:
你看到了什么?当然,【deepseek-ai/DeepSeek-V4-Pro】没有视觉能力,所以我们需要换一个支持视觉能力的模型,如【moonshotai/Kimi-K2.7-Code】:
修改方式同样是在人设文件中找到模型名称替换即可.
回答如下图:
可以看到它已经识别出来了,我vscode打开的正是它的配置文件:
我们还可以修改背景图片,或者自定义图片,等等功能:
当然,还有一些其他的功能,像语音转文字也是可以的,它说完话会聆听,等待你说话,只需要给予浏览器麦克风权限即可:
怎么样,是不是感觉很不错!更多的一些功能大家可以慢慢尝试体验一下哦~
6.下载安装cpolar
前面我们已经完成了 Open-LLM-VTuber 的本地部署,也成功接入了大模型,并测试了文字、语音和画面识别等功能.
不过现在还有一个问题:**这个页面目前只能在本机或者同一局域网内访问.**如果人不在家,手机切换到移动网络,就无法直接打开本地的12393端口.
为了让这个 AI 虚拟伴侣不只停留在电脑里,接下来使用cpolar 内网穿透,把 Open-LLM-VTuber 的本地 Web 服务映射成一个公网地址.这样即使没有公网 IP,也不用配置路由器端口转发,在手机、平板或者其他电脑上打开浏览器,就能随时和它对话.
6.1什么是cpolar?
- cpolar 是一款内网穿透工具,可以将你在局域网内运行的服务(如本地 Web 服务器、SSH、远程桌面等)通过一条安全加密的中间隧道映射至公网,让外部设备无需配置路由器即可访问.
- 广泛支持Windows、macOS、Linux、树莓派、群晖 NAS等平台,并提供一键安装脚本方便部署.
6.2下载安装cpolar
打开cpolar官网的下载页面,点击立即下载 64-bit按钮,下载cpoalr的安装包:
下载下来是一个压缩包,解压后执行目录种的应用程序,一路默认安装即可,安装完成后,打开cmd窗口输入如下命令确认安装:
cpolar version出现如上版本即代表安装成功!
6.3注册及登录cpolar web ui管理界面
访问cpolar官网,点击免费注册按钮,进行账号注册
进入到如下的注册页面进行账号注册:
注册完成后,在浏览器中输入如下地址访问 web ui管理界面:
http://127.0.0.1:9200输入刚才注册好的cpolar账号登录即可进入后台页面:
7.使用cpolar穿透Open-LLM-VTuber
刚才我们已经成功安装并登录了 cpolar,万事俱备,只欠东风.接下来,我们只需要将运行在本地的 Open-LLM-VTuber 服务(默认端口通常为12393)通过cpolar 映射出去,就能立刻获得一个公网访问地址.
7.1随机域名方式(免费方案)
随机域名方式适合预算有限的用户.使用此方式时,系统会每隔24 小时左右自动更换一次域名地址.对于长期访问的不太友好,但是该方案是免费的,如果您有一定的预算,可以查看后面大纲的固定域名方式,且访问更稳定.
点击左侧菜单栏的隧道管理,展开进入隧道列表页面,页面下默认会有 2 个隧道:
- remoteDesktop隧道,指向3389端口,tcp协议
- website隧道,指向8080端口,http协议(http协议默认会生成2个公网地址,一个是http,另一个https,免去配置ssl证书的繁琐步骤)
点击编辑website隧道或创建新的隧道,设置一个隧道名称,协议选择【http】,本地地址填写Open-LLM-VTuber的访问端口【12393】,地区这里选择的【China】,最后点击更新:
接着,点击左侧菜单的【状态】菜单,接着点击【在线隧道列表】菜单按钮,可以看到有2条隧道名称为【vtuber】的隧道,一个为http协议,另一个为https协议:
接下来在浏览器中访问vtuber隧道生成的公网地址(http和https皆可),这里以https为例:
注意:每个用户创建的隧道显示的公网地址都不一样!
可以看到,访问成功!这样,Open-LLM-VTuber就成功通过cpolar穿透至公网了,即使出门在外,只要有网络,就可以随时随地访问你部署在家中的Open-LLM-VTuber了.
7.2固定域名方式
通过前面的配置,我们已经成功实现了Open-LLM-VTuber的远程访问,但免费随机域名方案的局限性也逐渐显现:每24小时左右自动更换域名地址,意味着你需要频繁更新书签、重新分享链接,甚至可能因为忘记更新而无法访问.固定域名方案正是为了解决这些痛点而生,能够让你拥有一个永久不变的专属地址.
好啦,接下来开始固定保留二级子域名教程!
首先,进入官网的预留页面:
https://dashboard.cpolar.com/reserved选择【预留】菜单,即可看到【保留二级子域名】项,填写其中的【地区、名称、描述(可不填)】项,然后点击保留按钮,操作步骤图如下:
列表中显示了一条已保留的二级子域名记录:
- 地区:显示为
China. - 二级域名:显示为
vtuber01.
注:二级域名是唯一的,每个账号都不相同,请以自己设置的二级域名保留的为主
接着,进入侧边菜单栏的【隧道管理】下的【隧道列表】,可以看到名为【 vtuber】的隧道,点击【编辑】按钮进入编辑页面:
修改域名类型为【二级子域名】,然后填写前面配置好的子域名,点击更新按钮:
接着来到【状态】菜单下的【在线隧道列表】可以看到隧道名称为【vtuber】的公网地址已经变更为【二级子域名+固定域名主体及后缀】的形式了:
这里以https协议做访问测试:
访问成功,说明固定二级子域名已经生效,页面上显示已连接,并且也能成功的对话!这样后续无论在家里、公司还是外地,都可以通过这个固定地址访问 Open-LLM-VTuber 控制台.
8.总结
Open-LLM-VTuber 体验下来,我觉得它最准确的定位不是“AI 女友”,也不是“更好看的聊天机器人”.
它更像是一套把几种 AI 能力拼到同一个角色身上的交互框架.
大模型决定它怎么回答,人设提示词决定它以什么身份回答;语音识别让它能够听,TTS 负责让它开口,Live2D 再把这些回复变成一个看得见的角色.如果换成支持视觉的模型,它甚至还可以继续理解共享出来的画面.
但这些功能是不是都有用,还是取决于自己的需求.
只想打字聊天,没有必要为了 Live2D 和语音额外增加复杂度;如果想做桌面宠物,本机版本可能更合适;而像本文这样,希望在手机、平板或者其他电脑上继续访问,Web 版本配合 cpolar 会更加灵活.
真正需要长期维护的,也不只是这个角色模型.
大模型接口、API Key、人设配置、语音服务和远程访问入口,实际上共同组成了这套体验.任何一部分发生变化,都可能影响最终效果.
所以 Open-LLM-VTuber 最有意思的地方,并不是让二次元角色“动起来”.
而是把原本分散的聊天、语音、视觉和虚拟形象,第一次比较完整地放进了同一个交互对象里.
敬请期待下一篇文章内容
每日心灵鸡汤: 喜欢的东西,应该被使用而不是被供奉!
喜欢的东西,不应该被供奉起来,而应该被使用起来.真正属于你的东西,不是被你保存得完好无损的物品,而是在你的生活中留下痕迹、参与过你的经历、陪伴你走过时间的东西.舍不得用,本质上是在把价值冻结;尽情使用,才是在让它完成存在的意义.好的物品、好的体验、好的关系,都应该进入生命的流动,而不是停留在等待被珍惜的状态.