【玩轉(zhuǎn)SD】SDLX提速50% AITemplate x Comfyui

大家好,我是小志Jason,一個正在Latent Space的程序員。
各位好久不見,最近都在嘗試SDXL各種lora訓(xùn)練參數(shù)和設(shè)置,終于找到一個比較不錯的基準(zhǔn),以高復(fù)原度和良性泛化為核心的訓(xùn)練參數(shù)和打標(biāo)方式。具體還在做各種測試,這方面之后再講。
今天為大家?guī)淼氖蔷哂薪稻S打擊的提速插件AIT,AITemplate For Comfyui
AITemplate是meta推出的一個python推理框架,可以把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)為?CUDA (NVIDIA GPU) / HIP (AMD GPU)的C++代碼,以實(shí)現(xiàn)高速推理。
具體里面的技術(shù)細(xì)節(jié)我也沒太了解,不過有人實(shí)現(xiàn)了comfyui在這方面的插件,可以在使用comfyui的時候用上AITemplate,經(jīng)過我個人測試3090跑150步的圖,可以從原來的196秒降到97秒,只用了原來50%的時間來實(shí)現(xiàn)近似的效果,可以說是相當(dāng)?shù)捏@人了。
不過目前AIT插件只支援windows 30和40系,其他的顯卡不支持,linux平臺和amd據(jù)說之后會支持。
另外comfyui官方據(jù)說也在開發(fā)AITemplate的支持,之后可能可以不用插件直接用啟動參數(shù)的形式開啟,不過SAI官方的東西什么時候搞好不太好說,可能會和controlnet一起推出吧,不太肯定。
需要注意的是,使用AIT不能開tae live preview,不然會發(fā)生錯誤。
解決方法:把ComfyUI\models\vae_approx里面的文件刪了
AIT Comfyui插件
git repo:?https://github.com/FizzleDorf/AIT
安裝:
AIT.zip里面的文件解壓到ComfyUI\custom_nodes\AIT里面
鏈接:https://pan.baidu.com/s/1_7Wd6wjD9HzUc7aaguLNVQ?
提取碼:l2dv
30,40系的modules
由于使用AIT的時候會自動從HF下載相關(guān)的模組,這里放一些我已經(jīng)下載的模組。
如果還需要下載,視乎情況魔法。
安裝:
下載解壓縮,放到ComfyUI\custom_nodes\AIT\AITemplate\modules里
鏈接:https://pan.baidu.com/s/1ypkNg1ihzCsADDn54OJQgg?
提取碼:1xiv
歡迎點(diǎn)贊投幣轉(zhuǎn)發(fā)加群
群號:866612947
驗證:小志Jason
