1. 环境准备:避开Python版本冲突的坑
第一次部署NovelAI时,我踩过最深的坑就是Python版本问题。当时随手装了最新的Python 3.11,结果stable-diffusion-webui死活跑不起来,报错信息像天书一样。后来才发现这个项目对Python 3.10.6有强依赖,版本不对就像用Windows钥匙开Mac电脑——根本不对路。
正确操作应该是这样:
- 到Python官网下载3.10.6的Windows安装包(注意选"Windows installer (64-bit)")
- 安装时务必勾选"Add Python to PATH"(就像给系统装个GPS,不然找不到Python在哪)
- 安装完成后,在CMD输入
python --version检查,应该显示Python 3.10.6
注意:如果之前装过其他Python版本,建议用Pyenv管理多版本,或者彻底卸载旧版。我就遇到过同时存在3.8/3.10/3.11三个版本导致的环境混乱,最后重装系统才解决...
验证环境时还有个隐藏技巧:在CMD连续执行python -m pip install --upgrade pip和python -m pip install wheel。这两个命令就像给Python装上"瑞士军刀"和"万能扳手",后续安装依赖包会更顺畅。
2. 安装部署:Git的正确打开方式
很多教程会直接让你克隆仓库,但没人告诉你国内克隆GitHub仓库可能比蜗牛还慢。我试过用默认方式克隆stable-diffusion-webui,结果下到一半就断连,又要重头再来。
推荐两种加速方案:
- 方案一:使用Git镜像源
git clone https://hub.fastgit.org/AUTOMATIC1111/stable-diffusion-webui.git cd stable-diffusion-webui git remote set-url origin https://github.com/AUTOMATIC1111/stable-diffusion-webui.git - 方案二:直接下载ZIP包(适合网络不稳定时)
- 访问项目GitHub页面
- 点击绿色"Code"按钮选"Download ZIP"
- 解压后记得执行
git init初始化仓库
安装时容易忽略的细节:存放路径不要有中文或空格!我曾经把项目放在"桌面/AI 绘画"目录下,结果各种权限报错。建议直接在D盘根目录建/ai_projects/stable-diffusion-webui这样的纯英文路径。
3. 模型配置:解密NovelAI的神秘文件
当你好不容易装好环境,接下来要面对最大的挑战——模型文件。官方模型ckpt文件通常有几个GB大小,而网上流传的各种版本鱼龙混杂。我下载过所谓"精简版"模型,生成图片全是马赛克,白白浪费一整天时间。
安全获取模型的正确姿势:
- 在项目目录下创建
models/Stable-diffusion文件夹 - 将下载的模型文件重命名为
model.ckpt放入该目录 - 验证文件完整性(关键步骤!):
- 文件大小:完整版约4GB+
- MD5校验:可用工具检查(如
certutil -hashfile model.ckpt MD5)
对于显存小于8GB的用户(比如我的GTX 1060 6GB),需要在webui-user.bat中添加优化参数:
set COMMANDLINE_ARGS=--medvram --opt-split-attention --precision full --no-half这几个参数就像给老显卡装上"涡轮增压":
--medvram:中等显存优化模式--opt-split-attention:注意力机制优化--no-half:禁用半精度(避免黑图问题)
4. 性能调优:低配电脑的逆袭
即使有了正确配置,在低配设备上跑NovelAI还是可能卡成PPT。经过两周折腾,我总结出这些救命技巧:
显存优化组合拳:
- 修改
config.json启用xformers(速度提升30%+):"enable_xformers": true, - 添加VAE模型减少显存占用:
- 下载
animevae.pt放入models/VAE目录 - 在webui设置中选择该VAE
- 下载
生成参数黄金组合:
- 分辨率:512x512(768x768容易爆显存)
- 采样步数:28-35步(DPM++ 2M Karras采样器)
- CFG Scale:7-11(数值越高越贴近文本)
- Clip skip:2(更接近NovelAI官方风格)
实测在我的低配设备上,这样设置后生成速度从5分钟/张提升到40秒/张,而且质量反而更好。有个反直觉的发现:有时降低采样步数反而能获得更清晰的细节,这和采样器的特性有关。
5. 疑难杂症解决方案
问题1:启动时报错Couldn't install torch
- 原因:Python版本不对或网络问题
- 解决:
pip uninstall torch torchvision torchaudio pip cache purge pip install torch==1.13.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117
问题2:生成图片全黑或全绿
- 原因:显卡不支持半精度计算
- 解决:在启动参数添加
--precision full --no-half
问题3:提示词不生效
- 典型错误:中文提示词(要用英文!)
- 正确写法:
masterpiece, best quality, 1girl, cherry blossoms, spring Negative prompt: lowres, bad anatomy - 进阶技巧:用
(word:1.3)调整权重,[word1|word2]表示随机选择
最近帮朋友部署时还发现个玄学问题:某品牌主板自带声卡驱动会和CUDA冲突,导致webui无法启动。禁用声卡后立即正常,这坑我查了三天日志才发现...
6. 高阶技巧:Hypernetwork的应用
NovelAI泄露的hypernetwork模型其实大有可为,但99%的教程都没说清楚用法。经过大量测试,我发现这些实用技巧:
- 将
.pt文件放入models/hypernetworks目录 - 在webui的"Generate"标签页找到hypernetwork下拉菜单
- 推荐组合:
aini.pt:适合厚涂风格pony.pt:赛璐璐风格神器furry.pt:兽人控必备
关键是要调整hypernetwork权重(建议0.3-0.7之间),太高会导致画面扭曲。有个小众技巧:在提示词里同时使用<hypernet:filename:0.5>语法和下拉菜单选择,可以实现双hypernetwork混合效果。
7. 模型管理:多版本的和平共处
随着玩得深入,你会收集各种版本的模型。我电脑上就存了7个不同ckpt文件,通过这些方法高效管理:
- 使用模型别名功能:
- 在
models/Stable-diffusion目录创建model_name.yaml - 内容示例:
description: NovelAI官方模型 preferred_weights: model.ckpt
- 在
- 快速切换技巧:
- 在webui的"Settings"页面设置"Stable Diffusion checkpoint"
- 勾选"Show extra networks"可以预览模型效果
最近发现的神器:sd-webui-model-converter扩展,可以直接在webui里转换模型格式,还能修复损坏的ckpt文件。之前有个4.2GB的模型无法加载,用这个工具修复后完美运行。
8. 终极提速方案:Xformers的魔法
如果你有RTX 30/40系列显卡,不启用xformers简直是暴殄天物。但官方安装方式经常报错,经过无数次尝试,我找到最稳的安装方法:
- 确定CUDA版本(CMD输入
nvidia-smi查看) - 根据CUDA版本安装对应xformers:
pip install xformers==0.0.20 --index-url https://download.pytorch.org/whl/cu118 - 在
webui-user.bat添加:set COMMANDLINE_ARGS=--xformers
启用后变化立竿见影:生成512x512图片从50秒缩短到22秒,而且显存占用降低15%。有个副作用是偶尔会出现"网格状伪影",这时可以尝试降低--xformers的优化强度。