OpenAI 函數(shù)調(diào)用：Python 中從基礎(chǔ)知識到高級技術(shù)
OpenAi 近期推出了一項很酷的新功能，稱為“函數(shù)調(diào)用”。本文將討論此功能如何通過提供讓用戶通過自然語言與現(xiàn)有產(chǎn)品進行交互的功能來改進您的現(xiàn)有產(chǎn)品。此外本文將展示一個使用此新功能的Python構(gòu)建的基本應(yīng)用程序的示例。
什么是“OpenAi函數(shù)調(diào)用”？
Open ai 函數(shù)調(diào)用是一項新功能，讓 Openai 模型（例如 GPT-3.r Turbo 和 GPT-4）通過你調(diào)用代碼中編寫的函數(shù)，以響應(yīng)用戶的自然語言輸入。它的工作原理是告訴模型你的系統(tǒng)上有哪些功能可用，并解釋它們的用途和參數(shù)。然后OpenAi 可以了解用戶的輸入何時與這些描述匹配，并進行適當(dāng)?shù)墓δ苷{(diào)用。這增加了交互和用戶友好性的新水平，允許非技術(shù)用戶使用簡單的提示與技術(shù)功能進行交互。
GPT-4 和 GPT-3.5-turbo 更新
下面是穩(wěn)定版、舊模型和新模型之間的映射。
各型號均已發(fā)布后綴為0613的型號。
也可以使用評估模型的框架 Evals 來比較和評估這些版本。
舊模型中不存在的gpt-3.5-turbo-16k已經(jīng)出現(xiàn)，它是最大token數(shù)量擴大四倍的模型，如下所示。
l gpt-3.5-turbo的最大token數(shù)：4096token
l gpt-3.5-turbo-16k的最大token數(shù)： 16384token
如下所述，16k 的費用增加了一倍，但代幣長度增加了四倍，因此也許可以將其應(yīng)用于過去在不使用單獨框架的情況下難以應(yīng)用的應(yīng)用程序。
官方公告稱16k的token長度足以通過一次請求處理大約20頁文本。
正如API文檔中所述，TRAINING DATA仍然是“Up to Sep 2021”，并且像以前一樣使用2021年9月之前的訓(xùn)練數(shù)據(jù)。
看來未來各個車型的生命周期是這樣規(guī)劃的。
l 具有穩(wěn)定型號名稱的訪問將于6月27日自動升級至上述新型號
l 此后，如果明確指定，則可以訪問舊模型，但舊模型的訪問截止日期為 9 月 13 日。
l 從現(xiàn)在開始訪問舊模型將導(dǎo)致請求失敗
官方公告還表示，OpenAI希望在未來幾周內(nèi)完成新版本的等待名單，預(yù)計將有更多的人能夠使用它。
價格
好消息是定價也進行了修改，一些功能現(xiàn)在更便宜
首先，關(guān)于gpt-3.5-turbo的價格修改，成本在輸入token和輸出token之間劃分如下。
雖然計算方法稍微復(fù)雜一些，但輸入token端的費用便宜了25%。
GPT-4的價格沒有變化，GPT-3.5中增加了16k版本，所以整體費用結(jié)構(gòu)如下。
此外，流行的嵌入 API text-embedding-ada-002 的定價已修改如下：
Embeddings API 通常用于創(chuàng)建矢量化數(shù)據(jù)，因此 75% 降價也很不錯了。
我們來嘗試一下
1. 設(shè)置您的環(huán)境
1. 首先在本地計算機上創(chuàng)建venv 。
打開終端并創(chuàng)建一個虛擬環(huán)境。
python -m venv venv
然后激活它：
venv\Scripts\activate
您現(xiàn)在可以在終端中看到 ( Venv )。
現(xiàn)在，讓我們安裝所需的依賴項：
Pip install python-dotenv==1.0.0 , open ai == 0.27.7
最后，我們需要為 OpenAI API 密鑰設(shè)置一個環(huán)境變量：
set OPENAI_API_KEY=<YOUR_API_KEY>
現(xiàn)在，一切準(zhǔn)備就緒，讓我們開始吧！
創(chuàng)建一個名為“ main.py”的文件，我們將在其中編寫用于回答問題的函數(shù)。
讓我們導(dǎo)入所需的依賴項：
import openai
from dotenv import load_dotenv
import os
讀取文件
load_dotenv()
openai_key = os.getenv("OPENAI_API_KEY")
用下面的代碼嘗試
model_name = "gpt-3.5-turbo-0613"
question = "Please tell me how to set up an environment with pyenv and pipenv."
response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
],
)
print(response.choices[0]["message"]["content"].strip())
"pyenv is a Python version control tool that allows you to install multiple Python versions and switch between them. pipenv is a tool that simplifies the creation of virtual environments and package management when used in combination with pyenv."
我嘗試了 gpt-3.5-turbo-0613 和gpt-4–0613，可以確認能正常運行。
這里需要注意的是GPT-4 可能并不總是有效，因為它取決于等待列表的狀態(tài)。
讓我們嘗試調(diào)用該函數(shù)
我將根據(jù)下面的 API 文檔進行嘗試。
首先，定義一個獲取天氣的函數(shù)，這次我們返回固定的天氣信息。
import json
def get_current_weather(location, unit="fahrenheit"):
weather_info = {
"location": location,
"temperature": "30",
"unit": unit,
"forecast": ["sunny", "windy"],
}
return json.dumps(weather_info)
接下來，為了向 OpenAI API 提供有關(guān)此功能的信息，創(chuàng)建包含如下描述的數(shù)據(jù)。
functions=[
{
"name": "get_current_weather",
"description": "Get the current weather at the specified location.",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "City names, place names, prefecture names,",
},
"unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
},
"required": ["location"],
},
}
]
從這里開始，有必要設(shè)計一些使用 OpenAI API 的方法。
使用調(diào)用函數(shù)時，你可能會多次調(diào)用OpenAI API。
第一次是普通查詢，但函數(shù)的參數(shù)給出了先前創(chuàng)建的函數(shù)的信息。
（function_call should be “auto”）
model_name = "gpt-3.5-turbo-0613"
question = "Please tell me about the weather in New York, USA"
response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
],
functions=functions,
function_call="auto",
)
function_call如果第一個響應(yīng)的消息包含如下內(nèi)容，則第二個請求將被拋出。
message = response["choices"][0]["message"]
message
<OpenAIObject at 0x7f4260054c20> JSON: {
"role": "assistant",
"content": null,
"function_call": {
"name": "get_current_weather",
"arguments": "{\n \"location\": \"\u6771\u4eac\u90fd\u6e2f\u533a\"\n}"
}
此外，此響應(yīng)還包括作為參數(shù)提供的內(nèi)容，因此你可以根據(jù)該信息調(diào)用您你自己定義的函數(shù)并發(fā)送第二個請求。
實現(xiàn)如下所示：
function_name = message["function_call"]["name"]
arguments = json.loads(message["function_call"]["arguments"])
function_response = get_current_weather(
location=arguments.get("location"),
unit=arguments.get("unit"),
)
second_response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
message,
{
"role": "function",
"name": function_name,
"content": function_response,
},
],
)
print(second_response.choices[0]["message"]["content"].strip())
The current weather in New York, USA is clear, with a temperature of 30 degrees. It's windy.
我能夠確認我可以根據(jù)我自己定義的功能做出響應(yīng)。
function_call如果不包含一個content（如果像往常一樣包含），則可以在第一個響應(yīng)中獲得答案，因此如果您實現(xiàn)如下所示的條件分支，您還可以處理與定義的功能無關(guān)的請求...
if message.get("function_call"):
function_name = message["function_call"]["name"]
arguments = json.loads(message["function_call"]["arguments"])
function_response = get_current_weather(
location=arguments.get("location"),
unit=arguments.get("unit"),
)
second_response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
message,
{
"role": "function",
"name": function_name,
"content": function_response,
},
],
)
print(second_response.choices[0]["message"]["content"].strip())
else:
print(response.choices[0]["message"]["content"].strip())
你還可以使用它來發(fā)布與天氣無關(guān)的查詢。
model_name = "gpt-3.5-turbo-0613"
question = "Please tell me how to set up an environment with pyenv and pipenv."
response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
],
functions=functions,
function_call="auto",
)
message = response["choices"][0]["message"]
if message.get("function_call"):
function_name = message["function_call"]["name"]
arguments = json.loads(message["function_call"]["arguments"])
function_response = get_current_weather(
location=arguments.get("location"),
unit=arguments.get("unit"),
)
second_response = openai.ChatCompletion.create(
model=model_name,
messages=[
{"role": "user", "content": question},
message,
{
"role": "function",
"name": function_name,
"content": function_response,
},
],
)
print(second_response.choices[0]["message"]["content"].strip())
else:
print(response.choices[0]["message"]["content"].strip())
Sure!
Pyenv and Pipenv are handy tools for managing Python environments. Here, we will explain how to set up an environment on macOS or Linux.
綜上所述：
我能夠確認的是不使用以這種方式定義的函數(shù)也可以完成處理。
對于開發(fā)人員來說，這是一個非常好的更新，函數(shù)中可以設(shè)置多種功能，使用范圍非常廣泛。
