Stable diffusion 人物L(fēng)ora訓(xùn)練記錄-20230304

????記錄一下第一次比較成功的Lora訓(xùn)練。
????此Lora目標(biāo)是能生成 Emma Myers(Wednesday中Enid Sinclair的扮演者) 的完善圖像,以及可以和大部分模型進(jìn)行混用。
????Lora Gui版本本地部署教程(老外的,很詳細(xì),據(jù)介紹了基本原理):

????Lora簡介:
https://replicate.com/blog/lora-faster-fine-tuning-of-stable-diffusion

訓(xùn)練流程:
扒圖:大小尺寸不用太講究,Lora不需要正方形,但是聽說訓(xùn)練集尺寸超過1024訓(xùn)練效果沒有明顯提升。
預(yù)處理:最折磨的步驟也是最重要的步驟,給訓(xùn)練集圖像打tag,?推薦此視頻教程:
【AI繪畫】較詳細(xì)!正則化!從泛化性角度談Lora模型訓(xùn)練心得
拋開參數(shù),打tag如果要讓Lora模型泛化程度更高需要把畫面所有元素都給標(biāo)注出來,不然可能會(huì)出現(xiàn)幾種情況:角色衣服很難換、只能生成特定的背景、只能生成上半身等和訓(xùn)練集過于相似的圖片(這種情況稱為泛化性不夠高)。
調(diào)參:沒訓(xùn)練過多少次,目前還是不太清楚具體參數(shù)作用,調(diào)參數(shù)的目標(biāo)是為了讓模型和想要的訓(xùn)練的人臉擬合度更高,詳細(xì)參數(shù)解釋可看此專欄:
訓(xùn)練:基于chilloutmix模型,使用4090顯卡訓(xùn)練,30張圖像+50張正則化圖像共訓(xùn)練時(shí)常一個(gè)半小時(shí)。

訓(xùn)練集和生成圖對(duì)比:


可以看到面部特征基本一致,并且能隨意改變發(fā)型發(fā)色服飾,如果prompt中加入短發(fā),棕發(fā),卷發(fā)等關(guān)鍵詞就能基本還原訓(xùn)練集。

其他生成圖:







