P主筆記

記筆記

糖柚子Merasusu

2023-03-15 13:14

102粉絲

關注

安裝教程如下：

1，首先確保你有一個Nvidia的顯卡，不少于6G的顯存，安裝最新的驅(qū)動，以及暢通的網(wǎng)絡。

2，打開官方項目地址：

https://github.com/THUDM/ChatGLM-6B

點 code 然后點 Download Zip 下載項目文件包

并解壓到C盤，路徑為：C:\ChatGLM-6B-main

3，用記事本打開其中的web_demo.py文件，修改第五行內(nèi)容，在.half()后面增加.quantize(4)，也就是改為：.half().quantize(4).cuda()

4，搜索并安裝 Anaconda3

5，安裝完成后從開始菜單進入Anaconda Prompt (anaconda3)提示行。

6，依次逐行輸入以下命令，每個命令都需要一定時間執(zhí)行

cd C:\ChatGLM-6B-main

conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia

pip install -r requirements.txt

pip install gradio

python web_demo.py

7，當你看到 Running on local URL: http://127.0.0.1:7860 這樣的文字后，表示啟動成功了

8，使用瀏覽器打開 http://127.0.0.1:7860 就可以使用了