寫在前面

本文中所有的內(nèi)容僅供參考，本人并不對任何產(chǎn)生的后續(xù)問題負(fù)任何責(zé)任。這次更新確實(shí)時(shí)隔有點(diǎn)太久了，主要是覺得聞達(dá)包也沒有太多值得介紹的擴(kuò)展，想看看有沒有擴(kuò)展功能更新。（結(jié)果好像并沒有？）

特別鳴謝：聞達(dá)制作團(tuán)隊(duì)?https://github.com/wenda-LLM/wenda

感謝大佬們的開源精神，為社區(qū)做出的巨大貢獻(xiàn)。本章節(jié)的內(nèi)容將會(huì)基于大佬們的包進(jìn)行說明。

聞達(dá)的介紹

聞達(dá)是一款支持多語言模型的LLM調(diào)用平臺，聞達(dá)采用知識庫+auto腳本的形式為LLM提高生成能力，充分考慮個(gè)人和中小企業(yè)的資源問題，以及國內(nèi)大背景下知識安全和私密性問題,實(shí)現(xiàn)使小模型獲得近似于大模型的生成能力。同時(shí)聞達(dá)支持模型：chatGLM-6B、chatRWKV、chatYuan、llama系列以及openaiapi和chatglm130b api，初步支持moss。聞達(dá)使用知識庫擴(kuò)展模型所知信息，使用auto提高模型生成質(zhì)量和復(fù)雜問題解決能力。它支持chatGLM-6B、chatRWKV、llama系列流式輸出和輸出過程中中斷。同時(shí)也能夠自動(dòng)保存對話歷史至瀏覽器（多用戶同時(shí)使用不會(huì)沖突，chatRWKV歷史消息實(shí)現(xiàn)方式需使用string）進(jìn)行對話歷史管理（刪除單條、清空）以及支持局域網(wǎng)、內(nèi)網(wǎng)部署和多用戶同時(shí)使用。

聞達(dá)的安裝

聞達(dá)安裝起來非常簡單，因?yàn)殚_發(fā)團(tuán)隊(duì)配置了一鍵包，下載地址在原項(xiàng)目地址（GitHub - wenda-LLM/wenda）的說明中。安裝只需要下載一鍵包內(nèi)的壓縮文件并將它們解壓到一個(gè)文件夾內(nèi)。然后修改其中setting.bat文件中的“set glm_path=”參數(shù)等號后的路徑修改為你自己GLM模型路徑即可。

聞達(dá)的使用

在修改并保存參數(shù)后，就可以雙擊run_GLM6B.bat文件啟動(dòng)模型，它會(huì)在命令提示行窗口中加載并運(yùn)行，當(dāng)它出現(xiàn)一個(gè)地址時(shí)，將該地址復(fù)制到瀏覽器中打開即可看到圖形界面。

知識庫的使用

聞達(dá)的知識庫非常簡單易用，只需要將相關(guān)的數(shù)據(jù)以txt文本格式存儲在wenda/txt文件夾中。然后雙擊運(yùn)行run_data_processing.bat文件，當(dāng)它運(yùn)行起來后就會(huì)進(jìn)行數(shù)據(jù)的讀取，當(dāng)它顯示“處理完畢”與“保存完成”的字樣時(shí)，就說明處理完畢了。之后再重啟GLM就可以獲得掛載數(shù)據(jù)庫的AI了。

至此，整個(gè)聞達(dá)平臺的安裝與應(yīng)用就介紹完畢了。在之后的文章中，我會(huì)開始講解 LangChain知識庫與一些其他生成式AI的安裝與使用教程，例如繪圖的 Stable Diffusion 以及 聲音合成的 VITS 與 SoVITS 等。

本文中如有錯(cuò)誤或疏漏，歡迎私信我或在下方評論區(qū)留言，我會(huì)修正或補(bǔ)充