OpenAI 突然發(fā)布了一個(gè) ChatGPT 的大更新【嵌入式模型成本降低75%】

20230614 凌晨,OpenAI 突然發(fā)布了一個(gè) ChatGPT 的大更新。主要更新內(nèi)容有:
在 Chat Completions API 新增函數(shù)調(diào)用(Function call)功能
改進(jìn)了 GPT-4 和 GPT-3.5-turbo 版本
更新了gpt-3.5-turbo的 16k 上下文版本
嵌入式模型降低了 75% 的成本
gpt-3.5-turbo 的輸入 tokens 成本減少了 25%
宣布了 gpt-3.5-turbo-0301 和 gpt-4-0314 模型的棄用時(shí)間表
OpenAI 也宣布,未來幾周內(nèi)邀請更多人試用 GPT-4,直到完全刪除候補(bǔ)名單。
什么是函數(shù)調(diào)用?
開發(fā)者現(xiàn)在可以向 GPT 模型描述函數(shù),并讓模型智能地選擇輸出一個(gè)包含參數(shù)的 JSON 對象來調(diào)用這些函數(shù)調(diào)用函數(shù)。
簡單來說,GPT 能夠知道何時(shí)要需要用外部工具來解決問題,不再需要開發(fā)者為它描述復(fù)雜的 Prompt,進(jìn)一步降低了出錯(cuò)的可能性。

舉個(gè)例子:
當(dāng)你像 ChatGPT 提問「波士頓的天氣怎么樣?」時(shí),你的問題會被模型解讀為調(diào)用第三方天氣 API,這時(shí)候它就會去檢索相關(guān)的數(shù)據(jù),輸出準(zhǔn)確的回答。

OpenAI 相當(dāng)于提供了一個(gè)規(guī)范的接口調(diào)用方式,這將會給基于 GPT 開發(fā)應(yīng)用的開發(fā)者們更高的靈活性。
新模型
OpenAI 這次一同發(fā)布了 gpt-4-0613 和 gpt-3.5-turbo-0613 改進(jìn)模型,均支持函數(shù)調(diào)用功能。
OpenAI 還發(fā)布了 gpt-3.5-turbo-16k 模型,支持 16000 tokens 的上下文長度,比目前的 gpt-3.5-turbo 要大 4 倍。
ChatGPT 無法輸入長文本一直是一個(gè)飽受詬病的問題,如今使用 gpt-3.5-turbo-16k 模型,你可以輸入長達(dá) 20 頁的文本,把長文檔、論文直接丟給 ChatGPT 讀。
gpt-3.5-turbo-16k 是加量不加價(jià),雖然文本量大了 4 倍,但價(jià)格只是 gpt-3.5-turbo 2 倍。
OpenAI 還宣布了他們會進(jìn)一步降低模型運(yùn)行的成本,以 gpt-3.5-turbo 為例,它的輸入 tokens 成本降低了 25%,相當(dāng)于每美元大約可以處理 700 頁文件。
推薦:
