可在線運(yùn)行的notebook：在kaggle搜索

Qwen-14B-Chat-Int4

首先安裝依賴包：

接著加載模型：

現(xiàn)在你可以和模型進(jìn)行對(duì)話了：

剛才第一次對(duì)話是單輪對(duì)話，現(xiàn)在加上歷史消息可以實(shí)現(xiàn)多輪對(duì)話：