Stable Diffusion上手路徑與常用操作

從零快速入手Stable Diffusion webui,通常有以下幾個環(huán)節(jié):
選擇模型
關(guān)鍵詞
擴展/插件安裝
ControlNet
模型訓練
No.1?選擇模型
1. 基礎(chǔ)模型/大模型:SD 1.5 通用模型
下載地址:
推薦SD 1.5版本,由Runway發(fā)布:
https://huggingface.co/runwayml/stable-diffusion-v1-5
老版本:
https://huggingface.co/CompVis/stable-diffusion
另有2.0版本,以及各版本的區(qū)別,詳見本課視頻。
用通用模型已經(jīng)可以上手開始生成圖像了,如果對某些特定風格有進一步要求,則可以進一步選擇經(jīng)過定制訓練后的模型。
2.?經(jīng)過定制訓練的模型
這類模型訓練屬于Fine Tune訓練。
SD模型訓練方式最常見三種,Textual Inversion、Dreambooth、LoRA。
初上手直接在C站上挑選訓練好的模型即可。類型標在C站模型預覽圖的左上角,見下圖:

a.?Textural?Inversion
https://textual-inversion.github.io/
訓練后的文件小,幾K至幾十K。
實際上訓練后得到的是一個精煉的關(guān)鍵詞組合,embeddings文件。
可以多個TI組合使用。
TI訓練,webui 內(nèi)置,文檔:
https://github.com/AUTOMATIC1111/stable-diffusion-webui/wiki/Textual-Inversion
b.?Dreambooth
https://dreambooth.github.io/
訓練后文件大,幾G。
訓練后得到的是一個大模型。
只能單個使用。
Dreambooth訓練1,webui 擴展:
https://github.com/d8ahazard/sd_dreambooth_extension
訓練選擇2,推薦
https://github.com/bmaltais/kohya_ss
訓練選擇3,colab腳本
https://github.com/TheLastBen/fast-stable-diffusion
c.?LoRA
是一種性能優(yōu)化的Dreambooth訓練方法。
訓練后文件大小適中,幾M至幾百M。
訓練后得到的是lora模型文件,可以搭配大模型文件一同使用。
可以多個LoRA組合使用。
LoRA訓練,同Dreambooth,webui 擴展:
https://github.com/d8ahazard/sd_dreambooth_extension
訓練選擇2
https://github.com/bmaltais/kohya_ss
三種模型在SD webui里存放的位置、使用方法,詳見本課視頻。
No.2?關(guān)鍵詞
關(guān)鍵詞資源全網(wǎng)很多,課堂預購了以下幾套,在情報中心圈子里獲取。
20000+AI繪畫關(guān)鍵詞
建筑類?Architecture?Midjourney?Prompts
關(guān)鍵詞生成器?Prompt?Generator?-?SD?Art?v1.9?Excel版
https://promptomania.com/stable-diffusion-prompt-builder/
https://promptomania.com/midjourney-prompt-builder/
https://stable-diffusion-art.com/prompt-guide/
C站模型樣例圖關(guān)鍵詞及參數(shù)一鍵拷貝方法:


詳細操作見本課視頻。
No.3?擴展/插件安裝
一些常見功能,如ControlNet,需要通過插件的方式來安裝。
可以直接在webui的Extensions里進行操作。

也可以手動安裝,通過git clone或直接下載插件包的方式,詳見:
https://github.com/AUTOMATIC1111/stable-diffusion-webui/wiki/Extensions
插件安裝、使用的教程全網(wǎng)資源也很多。
有疑問可在圈子、群內(nèi)答疑。
No.4?ControlNet
掌握了基本圖像生成后,可通過ControlNet進行更精確的控制,解決構(gòu)圖、精修等細節(jié)問題。
將在后續(xù)課程詳細講解。
ControlNet介紹及文檔:
https://github.com/lllyasviel/ControlNet
https://github.com/Mikubill/sd-webui-controlnet
No.5?模型訓練
模型訓練用來解決進一步風格定制、內(nèi)容細節(jié)生成、品牌形象植入等問題,也可以改善AI視頻中如角色面部控制、造型定制等問題。
將在后續(xù)課程詳細講解。
提前學習的文檔鏈接見上文第一節(jié)。

對實驗編程會員,安裝過程遇到的任何問題,都可以在情報中心進行答疑。




