通過(guò)微軟Azure調(diào)用GPT的接口API-兼容平替OpenAI官方的注意事項(xiàng)
眾所周知,我們是訪問(wèn)不通OpenAI官方服務(wù)的,但是我們可以自己通過(guò)代理或者使用第三方代理訪問(wèn)接口
現(xiàn)在新出臺(tái)的規(guī)定禁止使用境外的AI大模型接口對(duì)境內(nèi)客戶(hù)使用,所以我們需要使用國(guó)內(nèi)的大模型接口
國(guó)內(nèi)的效果真的很差,現(xiàn)在如果想使用GPT大模型,可以使用微軟Azure的OpenAI服務(wù)。
?
負(fù)責(zé)任的AI
在微軟,我們致力于以人為本的原則推動(dòng)AI的進(jìn)步。生成模型(如Azure OpenAI中可用的模型)具有顯著的潛在優(yōu)勢(shì),但如果沒(méi)有仔細(xì)的設(shè)計(jì)和深思熟慮的緩解措施,這樣的模型有可能生成不正確甚至有害的內(nèi)容。微軟已經(jīng)進(jìn)行了大量投資,以幫助防止濫用和意外傷害,其中包括要求申請(qǐng)人展示定義明確的用例,納入微軟負(fù)責(zé)任的AI使用原則,構(gòu)建內(nèi)容過(guò)濾器以支持客戶(hù),并為客戶(hù)提供負(fù)責(zé)任的AI實(shí)施指導(dǎo)。
微軟在中國(guó)是有合規(guī)企業(yè)的,并且數(shù)據(jù)內(nèi)容經(jīng)過(guò)了過(guò)濾,我們可以考慮平替OpenAI官網(wǎng)服務(wù)
?
Azure GPT接口規(guī)范
我們可以參考下面這個(gè)REST接口的調(diào)用參數(shù)
在Azure上創(chuàng)建服務(wù)成功以后,會(huì)得到兩個(gè)參數(shù)?ENDPOINT 和 API-KEY
聊天補(bǔ)全接口
?
向量轉(zhuǎn)換接口
?
?
與OpenAI官方的區(qū)別
接口地址不一樣,header參數(shù)里傳遞key的形式也不一樣。
除了這倆點(diǎn),還有一個(gè)很重要的事情。
重點(diǎn)注意
大家仔細(xì)看看上面接口地址的url部分,加粗的部分
$AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15
$AZURE_OPENAI_ENDPOINT/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15
我們需要把大模型部署一下,上面標(biāo)紅的地方,就是部署名稱(chēng),所以如果我們想無(wú)縫切換OpenAI與微軟Azure OpenAI
我們需要固定好,部署的名稱(chēng)與模型的名稱(chēng)保持一致,這樣才能正常調(diào)用

客服系統(tǒng)配置
我們系統(tǒng)已經(jīng)兼容了微軟azure接口:gofly.v1kf.com
前往【菜單】【機(jī)器人設(shè)置】【向量知識(shí)庫(kù)AI配置】接口地址填入$AZURE_OPENAI_ENDPOINT,接口密鑰填寫(xiě)key
