可在線運(yùn)行的notebook鏈接:在kaggle網(wǎng)址搜索:BlueLM-7B-Chat
首先需要安裝魔搭社區(qū)依賴包:
接著使用較低精度加載該模型(可以降低顯存使用,同時(shí)不影響生成效果影響):
設(shè)定測試任務(wù)和提示詞:
最終進(jìn)行測試,同時(shí)觀察最終生成結(jié)果: