如何用controlnet+lora合成融合自然的圖片
這段時間遇到很多群友咨詢,如何將物品和背景自然的融合起來,如何把平面圖自然的融合到實拍圖里。這里根據(jù)最近的兩個案例,分享我的經(jīng)驗,主要用到controlnet和lora技術(shù)。(由于甲方要求,就不放圖片了)
1、花園旗案例
需求:把自己的平面圖案融入到實拍的花園旗里,要融合自然不生硬。甲方自己嘗試mj和ps失敗。
用ps融合問題:
????邊緣太直,線條太清晰;旗子的棉布材質(zhì)體現(xiàn)不出來;自然垂放時那種凹凸皺褶體現(xiàn)不出來;平面圖顏色和布的顏色不搭,邊緣太明顯。
方案:
????先把平面圖粗略加到實拍圖里,用canny生成線稿,手動去掉線稿里平面圖的邊緣直線。生成新圖時用這個線稿控制,可以解決邊緣線條的問題,保留原圖的自然邊緣。
????用inpaint局部重繪,但只重繪兩圖相交的部分,減少重繪區(qū)域可以有效保證還原度,也降低重繪難度。
????用好這兩個功能,基本能生成比較好的圖了,但仍缺少點元素,導(dǎo)致看上去還是不夠真實。
????再找?guī)讖埻悓嵟膱D粗略的煉一個lora模型,主要是學(xué)習(xí)旗子在自然狀態(tài)下的材質(zhì)和褶皺等特征。然后把lora加到prompt里,用圖生圖重繪,就能生成材質(zhì)、褶皺等特征了。新圖看上去跟真的差不多了,符合甲方的要求。
2、床上四件套案例
需求:想生成四件套的場景圖,甲方自己用lora煉白底圖失?。ㄟ@里不該用lora,就算用也是煉場景,而不是白底圖,對lora的用法理解有誤,這里不展開)
問題:用controlnet融合到場景里面不自然,被子和原圖有幾處不匹配不知道如何處理
方案:
????還是老方法先做一個粗略融合圖,用canny+手動改線稿,不匹配的地方該刪就刪,該補就補。這里大部分人都只會生成線稿,其實下載下來,手動修改線稿中不合理的地方,能完美解決不匹配。
????還是inpaint局部重繪,也是只重繪有問題的地方。通常這種地方很少,而且有修改線稿的加成,一般三四張圖就能跑一張合適的出來,肉眼很難看出問題。
總結(jié):
????controlnet的canny和inpaint,在這種寫實風(fēng)格的電商圖有很強的應(yīng)用場景。玩AI最好得想明白邏輯。
????比如通過改線稿可用解決圖案沖突;重繪交叉區(qū)域降低影響、提高出圖率;通過lora還原特殊特征,而不是指望lora還原商品或直接可用的場景圖。