ChatGPT的火爆全網(wǎng)也將“大模型”這一新鮮的名詞帶到了所有國(guó)人面前。

什么是大模型？在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域，大模型通常指的是具有大量參數(shù)和復(fù)雜結(jié)構(gòu)的模型。這些模型通常需要大量的計(jì)算資源和數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練，以便能夠捕捉到數(shù)據(jù)中的豐富信息和模式。大模型在很多任務(wù)中表現(xiàn)出色，如智能對(duì)話、內(nèi)容生成、內(nèi)容設(shè)計(jì)、音視頻制作等等。

隨著大模型的日漸普及，其功能和涉及的領(lǐng)域也在快速增加。日前，賽迪顧問(wèn)《IT 2023》系列研究對(duì)外發(fā)布,研究顯示大模型蘊(yùn)含無(wú)限的潛力，創(chuàng)新應(yīng)用場(chǎng)景十分廣闊，為人類的生活和工作提供便利。

?

大模型行業(yè)高速發(fā)展，未來(lái)競(jìng)爭(zhēng)將愈加激烈

綜觀國(guó)內(nèi)外的大模型行業(yè)，均呈現(xiàn)出多元化和快速發(fā)展的趨勢(shì)，正向著更加精細(xì)化、智能化的方向發(fā)展。隨著人工智能技術(shù)的不斷進(jìn)步，大模型的規(guī)模也在不斷擴(kuò)大，同時(shí)也在提高其預(yù)測(cè)和決策的準(zhǔn)確性。

國(guó)內(nèi)應(yīng)用層面的需求推動(dòng)AI產(chǎn)業(yè)的加速發(fā)展，或?qū)?lái)市場(chǎng)的爆發(fā)性增長(zhǎng)。根據(jù)IDC數(shù)據(jù)預(yù)測(cè)，2021年中國(guó)人工智能軟件及應(yīng)用市場(chǎng)規(guī)模為51億美元，預(yù)計(jì)2026年將會(huì)達(dá)到211億美元。數(shù)據(jù)、算法、算力是AI發(fā)展的驅(qū)動(dòng)力，其中數(shù)據(jù)是AI發(fā)展的基石，中國(guó)數(shù)據(jù)規(guī)模增速或排名全球第一。據(jù)IDC統(tǒng)計(jì)，中國(guó)數(shù)據(jù)規(guī)模將從2021年的18.51ZB增長(zhǎng)至2026年的56.16ZB，年均增長(zhǎng)速度CAGR為24.9%，增速位居全球第一。

國(guó)外以ChatGPT等為代表，國(guó)內(nèi)以百度的文心一言等為代表，各大科技公司都在積極研發(fā)和應(yīng)用大模型，希望通過(guò)這種方式提升自身的競(jìng)爭(zhēng)力。

有媒體報(bào)道，百度正在加緊訓(xùn)練文心一言的基礎(chǔ)模型——文心大模型4.0，或?qū)⒃?0月17日百度世界大會(huì)上發(fā)布。據(jù)消息人士透露，文心大模型4.0的進(jìn)展比預(yù)期快很多，文心4.0對(duì)標(biāo)GPT4，能力（綜合模型能力）有明顯提升，將是基礎(chǔ)模型的大升級(jí)，理解、生成、邏輯、記憶四大核心能力都將提升，尤其在邏輯推理、代碼和數(shù)學(xué)等方面提升最明顯。同時(shí)，文心大模型 4.0參數(shù)規(guī)模將大于市面上所有已經(jīng)公開發(fā)布參數(shù)規(guī)模的大語(yǔ)言模型，預(yù)計(jì)將突破萬(wàn)億級(jí)別。

據(jù)悉，更多百度的新型大模型產(chǎn)品，將在10月17日的“百度世界2023”上展現(xiàn)。百度CEO李彥宏還將教你怎么做AI原生應(yīng)用，還有云智一體的新架構(gòu)、百度智能云千帆大模型平臺(tái)新動(dòng)態(tài)，AI原生應(yīng)用的新落地案例，也將在當(dāng)日大會(huì)上展示。

大模型是否該收費(fèi)？是必由之路也是大勢(shì)所趨

在不遠(yuǎn)的未來(lái)，大模型行業(yè)的競(jìng)爭(zhēng)將更加激烈。一方面，現(xiàn)有的大模型已經(jīng)開始訓(xùn)練，在模型訓(xùn)練上有絕對(duì)的優(yōu)勢(shì)，模型的效果也會(huì)更好；另一方面，隨著大模型版本的迭代，每一代大模型的算力、訓(xùn)練成本也有跡可循，對(duì)資金的需求也會(huì)持續(xù)擴(kuò)大，沒(méi)有雄厚資金支持的企業(yè)會(huì)逐漸掉隊(duì)。

最近關(guān)于文心4.0的爆料消息不斷，很值得關(guān)注的是模型推理成本的增加，因?yàn)檫@直接關(guān)系到大模型廠商為用戶提供生成內(nèi)容服務(wù)時(shí)所需要投入的資源成本。據(jù)爆料，文心大模型4.0的推理成本相比3.5增加很多，有傳聞是8-10倍，也有說(shuō)法是至少翻了10倍。

有大模型行業(yè)專家透露，大模型的推理成本跟三個(gè)因素相關(guān)：模型的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)規(guī)模、推理部署方式、芯片和集群架構(gòu)。

從已經(jīng)爆出來(lái)的信息看，文心大模型4.0的參數(shù)規(guī)模要大于目前所有公開發(fā)布參數(shù)的大語(yǔ)言模型。網(wǎng)絡(luò)結(jié)構(gòu)更復(fù)雜、參數(shù)規(guī)模更大，這必然帶來(lái)更大的計(jì)算量，推理成本增加順理成章。

推理部署方面，一直是百度的強(qiáng)項(xiàng)，尤其是在其自研的深度學(xué)習(xí)框架飛槳的支持下，并行推理、量化推理和變長(zhǎng)優(yōu)化等等都是飛槳在大模型推理上很好用的工具。在模型參數(shù)量變大的情況下，通過(guò)飛槳和文心的聯(lián)合優(yōu)化或許能找補(bǔ)一些成本。

芯片和集群方面，使用什么樣的芯片型號(hào)，用多大的規(guī)模和集群架構(gòu)進(jìn)行推理都會(huì)影響大模型的推理成本。以GPT-4為例，據(jù)爆料，GPT-4推理運(yùn)行在由 128 個(gè) GPU 組成的集群上。在不同地點(diǎn)的多個(gè)數(shù)據(jù)中心存在多個(gè)這樣的集群。

隨著大語(yǔ)言模型的不斷升級(jí)迭代，參數(shù)量越來(lái)越大、模型能力越來(lái)越強(qiáng)、用戶使用量激增，推理成本都是大模型廠商需要持續(xù)優(yōu)化投入的。

筆者認(rèn)為，大模型廠家或許要思考費(fèi)用的問(wèn)題了。而付費(fèi)是大模型行業(yè)的大勢(shì)所趨，專業(yè)版付費(fèi)為國(guó)際主流趨勢(shì)，大模型要健康正向、長(zhǎng)遠(yuǎn)發(fā)展，為用戶持續(xù)提供優(yōu)質(zhì)服務(wù)，就必須解決長(zhǎng)期可持續(xù)問(wèn)題。解決成本問(wèn)題，也可以持續(xù)地、健康地運(yùn)營(yíng)，為更多用戶提供更好的服務(wù)。