ChatGPT聊天機(jī)器人持續(xù)進(jìn)化，近期三則關(guān)鍵消息都預(yù)示了這一AI技術(shù)迅速、大規(guī)模商用的潛力。

首先，OpenAI于3月14日推出了GPT-4大模型，該模型不僅支持多模態(tài)輸出，而且在復(fù)雜推理和表現(xiàn)方面超越了基于GPT-3.5的ChatGPT，一經(jīng)推出即引起廣泛使用和傳播。其次，百度在3月16日也宣布發(fā)布文心一言，一個(gè)可以對(duì)標(biāo)ChatGPT的AI聊天機(jī)器人產(chǎn)品。同時(shí)，在這之前，ChatGPT的母公司OpenAI也于3月1日宣布開放了ChatGPT的API（應(yīng)用程序接口），并將使用成本降低了90%。

隨著AI技術(shù)的不斷發(fā)展，像GPT這類的大型AI模型的價(jià)格也將逐步降低。那為什么AI大模型會(huì)越來越便宜呢？

星圖比特（StarBitech）創(chuàng)始人張炯與動(dòng)點(diǎn)科技就此問題進(jìn)行了探討。

上海星圖比特信息技術(shù)服務(wù)有限公司（StarBitech）成立于2015年，由上海樹圖區(qū)塊鏈研究院與風(fēng)語筑（603466.SH）聯(lián)合投資的一家原生智能數(shù)字內(nèi)容資產(chǎn)科技公司。公司日前已獲得微軟和OpenAI的贊助，將根據(jù)中國歷史、文化和語言特色，發(fā)揮團(tuán)隊(duì)在中文自然語言處理和本土合規(guī)領(lǐng)域的優(yōu)勢，圍繞GPT、DALLE算法以及強(qiáng)化學(xué)習(xí)的加持，將在對(duì)話機(jī)器人、視覺內(nèi)容創(chuàng)作、營銷內(nèi)容創(chuàng)作等國內(nèi)垂直領(lǐng)域開展AIGC服務(wù)，為營銷、游戲、動(dòng)漫、文旅、政府等行業(yè)提供人工智能賦能。

為什么像GPT這樣的大型AI模型變得越來越便宜，其他的主流模型是否也會(huì)順應(yīng)這個(gè)降價(jià)的趨勢？

大模型越來越便宜主要是由于技術(shù)的不斷進(jìn)步和競爭的加劇。OpenAI 表示，gpt-3.5-turbo與ChatGPT產(chǎn)品使用的是相同的模型，它的費(fèi)用是1000 tokens（約750個(gè)詞）只需要0.002美元，將GPT-3.5使用成本降低90%?！皌urbo”代號(hào)指的是GPT-3.5的優(yōu)化、響應(yīng)速度更快的版本。

Open AI 成本的大幅下降可能來自于多方面的優(yōu)化，包括模型架構(gòu)的調(diào)整、算法算力和 GPU 的優(yōu)化、業(yè)務(wù)層的優(yōu)化、模型層優(yōu)化、量化優(yōu)化、kernel 層優(yōu)化、編譯器層優(yōu)化等等。

模型架構(gòu)的調(diào)整主要是指通過剪枝、量化、微調(diào)等技術(shù)來精簡模型的大小，幫助提高模型的性能和準(zhǔn)確度的同時(shí)，也可以減少模型的計(jì)算量和參數(shù)量，降低推理時(shí)間和成本。算法算力和 GPU 的優(yōu)化是通過使用高效的算法和GPU 并行計(jì)算來加速計(jì)算，提高計(jì)算效率。業(yè)務(wù)層優(yōu)化是指優(yōu)化整個(gè)系統(tǒng)性能，如使用緩存技術(shù)和預(yù)測技術(shù)等降低延遲和重復(fù)調(diào)用，從而提高系統(tǒng)的性能和效率。

模型層優(yōu)化可以通過優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)來降低訓(xùn)練和推理的時(shí)間和成本。量化優(yōu)化通過使用低精度計(jì)算來降低計(jì)算量和參數(shù)量。編譯器層優(yōu)化通過使用高效的編譯器來優(yōu)化代碼的執(zhí)行，從而提高計(jì)算效率。

另外，由于越來越多的公司和研究機(jī)構(gòu)涉足AI大模型領(lǐng)域，如google的LaMDA（137B）和PaLM（540B），DeepMind的Gopher（280B）、BigScience的BLOOM（175B）、Meta的OPT（175B）、英偉達(dá)的TNLG v2（530B）以及清華大學(xué)的GLM-130B（130B）等，導(dǎo)致市場競爭變得激烈，同時(shí)價(jià)格競爭也開始變得激烈。這個(gè)因素導(dǎo)致AI模型價(jià)格不斷下降。(括號(hào)中的數(shù)字表示這些AI模型的參數(shù)量)

其他主流的模型是否會(huì)順應(yīng)這個(gè)降價(jià)趨勢取決于這些模型的規(guī)模、性能和需求。如果這些模型的規(guī)模和性能與GPT-3模型相當(dāng)，且市場需求強(qiáng)烈，那么它們也有可能經(jīng)歷價(jià)格下降趨勢，但是，如果這些模型的規(guī)模較小、性能較低，或者市場需求不強(qiáng)，那么它們的價(jià)格可能不會(huì)大幅下降。長期來看，隨著技術(shù)的不斷發(fā)展，以及軟硬件技術(shù)的進(jìn)步，處理大量數(shù)據(jù)和訓(xùn)練模型所需的成本會(huì)逐漸降低，大語言模型的價(jià)格可能會(huì)有所下降。另外，隨著越來越多的公司和組織開始使用大語言模型，市場競爭也會(huì)推動(dòng)價(jià)格的下降。當(dāng)然，具體的降價(jià)幅度和時(shí)間是無法確定的，因?yàn)樗€取決于市場的供給關(guān)系及模型的質(zhì)量。當(dāng)然，對(duì)于一些高端模型的價(jià)格可能會(huì)繼續(xù)保持高價(jià)位，因?yàn)閷?duì)于高質(zhì)量、高性能和高附加值應(yīng)用場景的模型，可能需要更多的計(jì)算資源和專業(yè)知識(shí)來支持。

在降價(jià)的同時(shí)，這些AI大模型是否變得更強(qiáng)大、聰明了？您是否認(rèn)同OpenAI CEO Sam Altman 說的新AI摩爾定律：AI智能總量每18個(gè)月翻一倍？

我是很認(rèn)同新AI摩爾定律的，成本的下降和應(yīng)用的增多同樣也會(huì)增加可被AI學(xué)習(xí)的語料和數(shù)據(jù)，從而進(jìn)一步的提升AI的能力，從2022年開始，我們認(rèn)為全球的互聯(lián)網(wǎng)環(huán)境已經(jīng)進(jìn)入到一個(gè)無時(shí)無刻不再進(jìn)行“圖靈測試”的大AI智能時(shí)代，和前幾年的圖像AI不同，語言本文類AI更多的像是人類的大腦，可以影響的范圍更廣也根深，但目前AI的能力還很大程度取決于硬件，特別是高性能硬件GPU的能力和供給，所以AI的發(fā)展和芯片的摩爾定律有很強(qiáng)的正向關(guān)聯(lián)。

推動(dòng)AI大模型成本下降的一些關(guān)鍵因素是什么？

1) 算法的改進(jìn)：新的算法和技術(shù)會(huì)不斷的迭代和提出，新的算法能更高效地使用計(jì)算資源和數(shù)據(jù)，從而減少訓(xùn)練和推理的成本；

2) 硬件的改進(jìn)：隨著硬件技術(shù)提升，例如GPU和TPU等專用芯片的出現(xiàn)，可以提供更高效的計(jì)算能力，加速訓(xùn)練和推理過程，從而降低成本；

3) 數(shù)據(jù)集的規(guī)模：數(shù)據(jù)是AI訓(xùn)練的關(guān)鍵，更大更優(yōu)質(zhì)的數(shù)據(jù)集能夠提供更多的信息，從而提高模型的準(zhǔn)確性和泛化能力，同時(shí)也可以通過更高效的數(shù)據(jù)處理和存儲(chǔ)技術(shù)來降低數(shù)據(jù)成本；

4) 可重用的預(yù)訓(xùn)練模型：預(yù)訓(xùn)練模型已經(jīng)成為訓(xùn)練大模型的重要方式，例如BERT和GPT等預(yù)訓(xùn)練模型已經(jīng)充分驗(yàn)證了他們的能力。這些模型可以作為基礎(chǔ)模型來訓(xùn)練其他模型，從而減少訓(xùn)練時(shí)間和成本；

5) 分布式計(jì)算：將訓(xùn)練過程分解為多個(gè)任務(wù)并在多臺(tái)計(jì)算機(jī)上運(yùn)行，可以大大縮短訓(xùn)練時(shí)間和成本。