關(guān)于使用M40運行ChatGLM模型彈出報錯問題
2023-04-11 15:28 作者:摸魚王阿衛(wèi) | 我要投稿
在使用M40顯卡運行ChatGLM時彈出報錯 RunTimeError:?no kernel image is available for execution on the device.
該問題的產(chǎn)生原因有二：
CUDA版本與M40核心版本不同，CUDA版本過高導致無法調(diào)用GPU。解決辦法：將CUDA降級并徹底清理注冊表后更換為11.x版本（我用的是11.0）。
沒有安裝Cudnn，需要自行尋找并下載與CUDA版本兼容的11代Cudnn。（鏈接稍后補充）
