ChatGLM2-6B-main(本地部署過程)
第一步:GitHub中下載ChatGLM2-6B

第二步:Hugging Face中下載ChatGLM2-6B

第三步:下載PyCharm社區(qū)版是免費(fèi)的,專業(yè)版要付費(fèi)的(安裝過程省略)

第四步:把第一第二步下載的文件放到一起(如果你使用的是up打包好的,第一第二步請(qǐng)省略)

到這里前期準(zhǔn)備就完成了
第五步:使用PyCharm打開

第六步:點(diǎn)擊"在項(xiàng)目中打開“

第七步:點(diǎn)擊"確定"

第七步:”信任項(xiàng)目“

第八步:點(diǎn)擊”確定“

第九步:點(diǎn)擊"安裝要求"

第十步:點(diǎn)擊"安裝"接下來慢慢等

第十一步:修改路徑【web_demo.py,web_demo2.py,api.py,cli_demo.py】四個(gè)文件,是不同的運(yùn)行方式

第十二步:本教程使用了web_demo.py的運(yùn)行方式
加紅的部分需要修改路徑,(項(xiàng)目路徑在哪里,就填哪里)其他不需要?jiǎng)?/p>
tokenizer = AutoTokenizer.from_pretrained("F:\ChatGLM2-6B-main", trust_remote_code=True)
以下這個(gè)代碼,按照自己的情況替換運(yùn)行
model = AutoModel.from_pretrained("F:\ChatGLM2-6B-main",trust_remote_code=True).float()


第十三步:運(yùn)行web_demo.py代碼

第十四步:等待
第十五步:看到這個(gè)界面,就說明成功了

完
視頻操作過程:https://www.bilibili.com/video/BV1az4y137sC/