AI 聊天機(jī)器人的炙手可熱讓 GPU 尤其是英偉達(dá)的 GPU 再次成為市場(chǎng)熱點(diǎn)。今天流行的聊天機(jī)器人如 OpenAI 的 ChatGPT 運(yùn)行在云服務(wù)器上，對(duì)普通用戶而言日常使用只能依賴于 OpenAI。Meta 的大語(yǔ)言模型 LLaMA 則讓工作站用戶在配備服務(wù)器級(jí) GPU 的本地計(jì)算機(jī)上運(yùn)行成為可能。類似開源的文本圖像模型 Stable Diffusion，開發(fā)者也在快速推動(dòng)大語(yǔ)言模型的普及化。一位西雅圖的開發(fā)者將 LLaMA 移植到了 CPU 上。對(duì)于 LLaMA-7B 模型（包含 70 億參數(shù)） ，Ryzen 7900X 能每秒推斷出多個(gè)單詞。