川虎Chat本地一鍵整合包!
川虎??Chat本地一鍵整合包!

川虎 Chat ?? Chuanhu Chat為ChatGPT等多種LLM提供了一個輕快好用的Web圖形界面和眾多附加功能
支持 GPT-4
基于文件問答
LLM本地部署
聯(lián)網(wǎng)搜索
Agent 助理
支持 Fine-tune 開源項目地址https://github.com/GaiZhenbiao/ChuanhuChatGPT, 使用效果如下視頻所示:https://xueshu.fun/3292/
學術Fun將上述工具制作成一鍵啟動包,點擊即可使用,避免大家配置Python環(huán)境出現(xiàn)各種問題,下載地址:?https://xueshu.fun/3292/,在此頁面右側(cè)區(qū)域點擊下載!
注意電腦配置如下
:
windows 10/11
6G顯存以上英偉達顯卡
下載使用教程
下載壓縮包 下載地址:?https://xueshu.fun/3292/,
在此頁面右側(cè)區(qū)域點擊下載!
解壓,最好不要有中文路徑,解壓后,如下圖所示,雙擊
啟動.exe
文件運行

瀏覽器訪問http://127.0.0.1:7860/,即可在瀏覽器使用

整合包已經(jīng)內(nèi)置默認chatglm2-6b-int4模型,其他模型通過下拉選擇可以自行下載。支持模型如下表所示,其中API調(diào)用模型需要API-key,本地部署模型會自動下載,但請根據(jù)自己顯卡內(nèi)存大小選擇。
支持模型
API 調(diào)用模型備注本地部署模型備注ChatGPT(GPT-4)支持微調(diào) gpt-3.5ChatGLM?(ChatGLM2)
Azure OpenAI
LLaMA支持 Lora 模型Google PaLM不支持流式傳輸StableLM
訊飛星火認知大模型
MOSS
Inspur Yuan 1.0
通義千問
MiniMax
XMChat不支持流式傳輸
Midjourney不支持流式傳輸
Claude
使用技巧
?? 強力功能
川虎助理:類似 AutoGPT,全自動解決你的問題;
在線搜索:ChatGPT 的數(shù)據(jù)太舊?給 LLM 插上網(wǎng)絡的翅膀;
知識庫:讓 ChatGPT 幫你量子速讀!根據(jù)文件回答問題。
本地部署LLM:一鍵部署,獲取屬于你自己的大語言模型。
?? System Prompt
通過 System Prompt 設定前提條件,可以很有效地進行角色扮演;
川虎Chat 預設了Prompt模板,點擊
加載Prompt模板
,先選擇 Prompt 模板集合,然后在下方選擇想要的 Prompt。
?? 基礎對話
如果回答不滿意,可以使用?
重新生成
?按鈕再試一次,或者直接?刪除這輪對話
;輸入框支持換行,按Shift+Enter即可;
在輸入框按↑↓方向鍵,可以在發(fā)送記錄中快速切換;
每次新建一個對話太麻煩,試試?
單論對話
?功能;回答氣泡旁邊的小按鈕,不僅能?
一鍵復制
,還能?查看Markdown原文
;指定回答語言,讓 ChatGPT 固定以某種語言回答。
?? 對話歷史
對話歷史記錄會被自動保存,不用擔心問完之后找不到了;
多用戶歷史記錄隔離,除了你都看不到;
重命名歷史記錄,方便日后查找;
魔法般自動命名歷史記錄,讓 LLM 理解對話內(nèi)容,幫你自動為歷史記錄命名!
搜索歷史記錄,支持正則表達式!
??? 小而美的體驗
自研 Small-and-Beautiful 主題,帶給你小而美的體驗;
自動亮暗色切換,給你從早到晚的舒適體驗;
完美渲染 LaTeX / 表格 / 代碼塊,支持代碼高亮;
非線性動畫、毛玻璃效果,精致得不像 Gradio!
適配 Windows / macOS / Linux / iOS / Android,從圖標到全面屏適配,給你最合適的體驗!
支持以 PWA應用程序 安裝,體驗更加原生!
????? 極客功能
支持 Fine-tune(微調(diào))gpt-3.5!
大量 LLM 參數(shù)可調(diào);
支持更換 api-host;
支持自定義代理;
支持多 api-key 負載均衡。