ChatGPT是什么
ChatGPT (Chat Generative Pre-training Transformer,生成型預(yù)訓(xùn)練轉(zhuǎn)換程序)發(fā)布于2022年11月30日,是由OpenAI公司研發(fā)的人工智能對(duì)話系統(tǒng)。由于其能在諸多知識(shí)領(lǐng)域中給出清晰、詳盡的答案,甚至寫出接近真人撰寫的文章,自推出后便迅速獲得關(guān)注。 ChatGPT是什么,可以從以下五個(gè)方面來把握。
(1)ChatGPT的對(duì)外表現(xiàn)是一個(gè)聊天機(jī)器人。
它能夠通過學(xué)習(xí)和理解人類語言來與人進(jìn)行對(duì)話,具有依據(jù)對(duì)話的上下文環(huán)境來回答問題的能力,就像人一樣來與人類進(jìn)行聊天交流。
(2)ChatGPT的實(shí)際本質(zhì)是人工智能生成技術(shù)。
它是人工智能內(nèi)容生成(Artificial Intelligence Generate Content,AIGC)技術(shù)的具體應(yīng)用。它在學(xué)習(xí)人類語言和相關(guān)領(lǐng)域知識(shí)的基礎(chǔ)之上,具有了智能化的內(nèi)容創(chuàng)作能力,能夠自動(dòng)生成特定的內(nèi)容。
(3)ChatGPT的關(guān)鍵基礎(chǔ)是生成式大規(guī)模語言模型。
即基于生成式預(yù)訓(xùn)練的變換器(Generative Pre-trained Transformer,GPT),它以生成式的自監(jiān)督學(xué)習(xí)為基礎(chǔ),從TB級(jí)訓(xùn)練數(shù)據(jù)中學(xué)習(xí)隱含的語言規(guī)律和模式,訓(xùn)練出的千億級(jí)別參數(shù)量的大規(guī)模語言模型。
(4)ChatGPT的核心技術(shù)是InstructGPT。
它采用了基于人類反饋的強(qiáng)化學(xué)習(xí)(Reinforcement Learning with Human Feedback,RLHF),讓人工智能模型的產(chǎn)出和人類的常識(shí)、認(rèn)知、需求、價(jià)值觀保持一致。
(5)ChatGPT的主要特點(diǎn)是與前期類似產(chǎn)品相比,編造事實(shí)大幅下降,生成的毒內(nèi)容更少。
它在一定程度上解決了傳統(tǒng)語言模型在復(fù)雜多領(lǐng)域的知識(shí)利用、演繹推理、欺騙性反應(yīng)等方面的缺陷,使回答更具有用性和真實(shí)性,具有編造事實(shí)大幅下降,生成的模仿性謊言(imitative falsehoods)、毒內(nèi)容(toxic output)更少的重要特征。