GPT4All, CPU本地運行70億參數(shù)大模型整合包!
GPT4All, CPU本地運行70億參數(shù)大模型整合包!

GPT4All?官網(wǎng)給自己的定義是:一款免費使用、本地運行、隱私感知的聊天機器人,無需GPU或互聯(lián)網(wǎng)。同時支持windows,mac,Linux?。。?/p>
其主要特點是:
本地運行??
無需GPU
無需聯(lián)網(wǎng)
同時支持Windows、MacOS、Ubuntu Linux(環(huán)境要求低)
是一個聊天工具
學(xué)術(shù)Fun將上述工具制作成一鍵啟動包,點擊即可使用,避免大家配置Python環(huán)境出現(xiàn)各種問題,下載地址:?https://xueshu.fun/3216/,在此頁面右側(cè)區(qū)域點擊下載!
注意電腦配置如下
:
windows,mac,Linux
8G內(nèi)存
下載使用教程
下載壓縮包 下載地址:?https://xueshu.fun/3216/,
在此頁面右側(cè)區(qū)域點擊下載!
解壓,
不能有中文路徑
,解壓后,如下圖所示,第一個框是模型文件,包含70b和7b的參數(shù),運行7b模型需要8G的內(nèi)存,70b的模型需要24G內(nèi)存。

上圖中,
.run , .dmg, .exe
分別為Linux、MAC和windows的安裝包,下面以windows為例演示安裝過程雙擊安裝,一直點下一步即可

安裝過程需要聯(lián)網(wǎng),但不是下模型,模型已經(jīng)包含在壓縮包里

安裝后,打開軟件,在下圖中選擇你壓縮包解壓的位置,不能有中文!

進(jìn)入軟件,選擇不同模型進(jìn)行對話

標(biāo)簽: