Qwen-7B-Chat

Qwen-7B是阿里云研發(fā)的通義千問大模型系列的70億參數(shù)規(guī)模的模型，Qwen-7B是基于Transformer的大語言模型。

模型地址：https://www.modelscope.cn/models/qwen/Qwen-7B-Chat/files

環(huán)境安裝

操作系統(tǒng)Ubuntu20.04

官方推薦Anaconda環(huán)境，實(shí)測python3.7不兼容。

torch使用1.12，cuda使用11.3。

安裝NLP包

實(shí)際運(yùn)行時，缺啥補(bǔ)啥，如本文缺少tiktoken。

模型下載

默認(rèn)地址為：~/.cache/modelscope/hub

使用

加載本地模型，如報錯缺啥補(bǔ)啥。

問

答