使用指北

最近AI很火，刷到Jack-Cui的視頻，所以跟著視頻和他的鏈接去做的，現(xiàn)在AI繪畫已經(jīng)有那種一鍵啟動(dòng)器了，所以我在搭建ChatGLM-6B這個(gè)之前已經(jīng)搭建過了stable-diffusion-webui，當(dāng)時(shí)搭建stable-diffusion-webui主要看的下面的文章和視頻：

搭建參考文章：AI繪畫保姆級(jí)教程，革命性進(jìn)展！ - 嗶哩嗶哩 (bilibili.com)

視頻：AI作畫保姆級(jí)教程來了！逆天，太強(qiáng)了！_嗶哩嗶哩_bilibili

所以總結(jié)起來AI相關(guān)的環(huán)境其實(shí)主要是cuda，anaconda3，python，git，pytorch和具體的開源項(xiàng)目。

有人說ChatGLM-6B可以達(dá)到CHATGPT的七八十，支持中英文，又可以本地跑，所以我去下載試試。

主要的坑其實(shí)就是安裝pytorch，安裝的時(shí)候使用清華源的鏡像，默認(rèn)下載的是CPU的不是GPU的。其實(shí)主要安裝的是pytorch==1.13.1 torchvision==0.14.1 torchaudio==0.13.1

安裝前記得先看下這個(gè)版本，查看地址如下

https://github.com/pytorch/vision#installation

如果網(wǎng)絡(luò)特別好的情況直接安裝(下面的版本以自己實(shí)際為準(zhǔn))

新版本可以直接用官網(wǎng)，官網(wǎng)地址：https://pytorch.org/

如果不是最新版可以使用下面的命令

pip install torch==1.12.1+cu113?torchvision==0.13.1+cu113 torchaudio==0.12.1 -f https://download.pytorch.org/whl/cu113/torch_stable.html

如果網(wǎng)絡(luò)不好的情況下，使用清華源(地址：https://mirrors.bfsu.edu.cn/anaconda/cloud/pytorch/win-64/)，剛才也講了如果用命令的方式會(huì)默認(rèn)安裝的是CPU版本，所以需要離線安裝，開始的時(shí)候通過上面的地址找到對(duì)應(yīng)的三個(gè)對(duì)版本下載下來了，通過命令離線安裝（例如安裝pytorch-1.12.0-py3.9_cuda11.3_cudnn8_0.tar.bz2，文件說明python版本3.9，cuda版本11.3 pytorch版本1.12.0）

conda install --offline pytorch-1.12.0-py3.9_cuda11.3_cudnn8_0.tar.bz2

但實(shí)際過程中發(fā)現(xiàn)還是會(huì)出現(xiàn)torchvision版本不對(duì)的情況，所以我解決方法是pytorch和torchaudio通過清華源離線安裝，torchvision通過默認(rèn)源安裝，因?yàn)閠orchvision文件很小，pytorch文件很大。

pip install torchvision==0.13.1+cu113??-f https://download.pytorch.org/whl/cu113/torch_stable.html

遺憾的是

我本地GPU內(nèi)存只有6G，玩了一會(huì)就會(huì)OOM，而共享內(nèi)存又不能用上，如果用CPU很卡，根本起不來，本來想搭建一個(gè)建議的ChatGPT自己玩也行的。

后知后覺的環(huán)境

1.cuda

簡單說跑GPU需要用到，安裝比較簡單

下載地址：https://developer.nvidia.com/cuda-toolkit-archive

2.anaconda3

跟著視頻裝的時(shí)候并不是具體知道要干嘛的，后面多玩了幾次就知道，這個(gè)有點(diǎn)類似虛擬環(huán)境的管理，如果你后面需要多玩幾個(gè)AI的項(xiàng)目（我后面又下載了幾個(gè)），可以避免環(huán)境沖突，所以建議安裝這個(gè)。

下載地址：

官網(wǎng)：https://www.anaconda.com/products/individual

清華開鏡像站：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

安裝完成以后，記得設(shè)置anaconda3的下載鏡像源，像python一般也是需要設(shè)置的不然下載比較慢，這里就不說了，同時(shí)記錄幾個(gè)常見的命令

conda env list:當(dāng)前創(chuàng)建了哪些虛擬環(huán)境

conda create -n ChatGLM-6B(虛擬環(huán)境名字) python=3.9 :創(chuàng)建虛擬環(huán)境，并安裝python3.9,如果多個(gè)可以用空格分隔，后面也可以在安裝（通過pip install 或者conda install都可以，記得是要激活某個(gè)環(huán)境）

activate ChatGLM-6B：激活?ChatGLM-6B環(huán)境，激活這個(gè)環(huán)境后面安裝都是會(huì)在這個(gè)環(huán)境下

3.python、git

這個(gè)不用說了，下載代碼和執(zhí)行需要的環(huán)境

4.ChatGLM-6B

新建一個(gè)目錄，比如ChatGLM-6B，并且通過git clone下代碼

git clone?https://github.com/THUDM/ChatGLM-6B.git

5.安裝依賴

根據(jù)官網(wǎng)readme里面的文檔安裝transformers?

以及依賴文件

pip install -r requirements.txt

但是在安裝requirements.txt前，記得首先自己安裝pytorch，原因文章開頭講了，如果默認(rèn)使用清華源會(huì)安裝的CPU非GPU。

5.1pytorch

PyTorch是一個(gè)開源的Python機(jī)器學(xué)習(xí)庫，基于Torch，用于自然語言處理等應(yīng)用程序。我后面多安裝幾次才知道這個(gè)東東才是核心，經(jīng)常出現(xiàn)，而且不太好裝。

官網(wǎng)地址：https://pytorch.org/

因?yàn)槲业南螺d太慢了，所以還是自己安裝，利用清華源的下載非?？臁?/p>