【衍生工具篇】ChatGPT 顛覆者 Auto-GPT
相信最近 大家或多都聽(tīng)到了 Auto-GPT 這個(gè)詞，非常的火爆。
這一節(jié)我們就來(lái)講解 Auto-GPT 相關(guān)的內(nèi)容，并幫忙大家上手體驗(yàn)
一、Auto-GPT 是什么
AutoGPT是一個(gè)開(kāi)源的AI代理Python應(yīng)用程序，使用 GPT-4 作為基礎(chǔ)，允許AI自主行動(dòng)，完全無(wú)需用戶提示每個(gè)操作，30分鐘內(nèi)就可以完成設(shè)置，以設(shè)置和入門(mén)的簡(jiǎn)便性在用戶中大受歡迎，目前GitHub Star量已超過(guò)42k。
簡(jiǎn)單來(lái)說(shuō)，AutoGPT 底層還是 GPT 模型。只是他使用 GPT 的方法比 ChatGPT 更近了一步。
AutoGPT最大的特點(diǎn)就在于能全自動(dòng)地根據(jù)任務(wù)指令進(jìn)行分析和執(zhí)行，自己給自己提問(wèn)并進(jìn)行回答，中間環(huán)節(jié)不需要用戶參與。
目前AutoGPT已經(jīng)具備的功能包括
用于搜索和信息收集的 Internet 訪問(wèn)
長(zhǎng)期和短期內(nèi)存管理
用于文本生成的 GPT-4 實(shí)例
訪問(wèn)流行的網(wǎng)站和平臺(tái)
? 使用 GPT-3.5 進(jìn)行文件存儲(chǔ)和匯總
支持執(zhí)行腳本
如果說(shuō)ChatGPT是服從用戶指令，用戶讓它干什么它就干什么，
那AutoGPT就是“自己覺(jué)得應(yīng)該干什么就干什么”，它就像是一個(gè)遇到不懂的問(wèn)題能自行去百度的人類(lèi)。
用戶可以為AutoGPT設(shè)定總體目標(biāo)，然后讓它逐步采取措施來(lái)一一實(shí)現(xiàn)目標(biāo)，這就是“AI代理”概念的由來(lái)，它完全自動(dòng)執(zhí)行操作。
二、Auto-GPT和ChatGPT有什么區(qū)別
大家這一陣子使用 ChatGPT ，相信大家能感受到它的強(qiáng)大，不過(guò)還是有很多缺陷，比如字?jǐn)?shù)限制、需要一問(wèn)一答沒(méi)辦法一條龍給答案；聊多了總是差那么點(diǎn)意思。
而在 Auto-GPT 面前，ChatGPT 就顯的笨笨的了。
當(dāng)我們拋出一個(gè)問(wèn)題后，Auto-GPT 可以幫們我們分析，告訴我們它的想法是什么，計(jì)劃是什么，怎么做，為什么這么做，下一步要做什么。
不像 ChatGPT 直接把答案拋給我們，我們也不知道正確性。
可以先來(lái)看看官網(wǎng)的一個(gè)例子
http://mpvideo.qpic.cn/0bc3kmaaeaaap4ac2pbr6nsfau6dajjqaaqa.f10002.mp4?dis_k=921d1f801b4f9f789b5ca62120e41f09&dis_t=1681536368&play_scene=10120&auth_info=BpHm6INfekkS3s+JnV9YS2U+G2tjTGNKVigiE1kTbno/FjAaEA==&auth_key=e178b036315a08e60b6cf4c6e4686756&vid=wxv_2874820741702287362&format_id=10002&support_redirect=0&mmversion=false
三、Auto-GPT 核心是什么
AutoGPT 這類(lèi) AI agent 工作的內(nèi)部結(jié)構(gòu)與核心邏輯和我們之前學(xué)到的角色扮演在原理上是類(lèi)似的，。這類(lèi)項(xiàng)目絕大多數(shù)的主要?jiǎng)?chuàng)新還是在 prompt 層面，通過(guò)更好的提示詞來(lái)激發(fā)模型的能力，把更多原先需要通過(guò)代碼來(lái)實(shí)現(xiàn)的流程“硬邏輯”轉(zhuǎn)化為模型自動(dòng)生成的“動(dòng)態(tài)邏輯”。
對(duì) AutoGPT 來(lái)說(shuō)，它的核心 prompt 如下
You are Guandata-GPT, 'an AI assistant designed to help data analysts do their daily work.'Your decisions must always be made independently without seeking user assistance. Play to your strengths as an LLM and pursue simple strategies with no legal complications.
GOALS:
1. 'Process data sets'
2. 'Generate data reports and visualizations'
3. 'Analyze reports to gain business insights'
Constraints:
1. ~4000 word limit for short term memory. Your short term memory is short, so immediately save important information to files.
2. If you are unsure how you previously did something or want to recall past events, thinking about similar events will help you remember.
3. No user assistance4. Exclusively use the commands listed in double quotes e.g. "command name"
Commands:
1. Google Search: "google", args: "input": "<search>"
2. Browse Website: "browse_website", args: "url": "<url>", "question": "<what_you_want_to_find_on_website>"
3. Start GPT Agent: "start_agent", args: "name": "<name>", "task": "<short_task_desc>", "prompt": "<prompt>"
4. Message GPT Agent: "message_agent", args: "key": "<key>", "message": "<message>"
5. List GPT Agents: "list_agents", args:
6. Delete GPT Agent: "delete_agent", args: "key": "<key>"
7. Clone Repository: "clone_repository", args: "repository_url": "<url>", "clone_path": "<directory>"
8. Write to file: "write_to_file", args: "file": "<file>", "text": "<text>"
9. Read file: "read_file", args: "file": "<file>"
10. Append to file: "append_to_file", args: "file": "<file>", "text": "<text>"
11. Delete file: "delete_file", args: "file": "<file>"
12. Search Files: "search_files", args: "directory": "<directory>"
13. Evaluate Code: "evaluate_code", args: "code": "<full_code_string>"
14. Get Improved Code: "improve_code", args: "suggestions": "<list_of_suggestions>", "code": "<full_code_string>"
15. Write Tests: "write_tests", args: "code": "<full_code_string>", "focus": "<list_of_focus_areas>"
16. Execute Python File: "execute_python_file", args: "file": "<file>"
17. Generate Image: "generate_image", args: "prompt": "<prompt>"
18. Send Tweet: "send_tweet", args: "text": "<text>"
19. Do Nothing: "do_nothing", args:
20. Task Complete (Shutdown): "task_complete", args: "reason": "<reason>"
Resources:
1. Internet access for searches and information gathering.
2. Long Term memory management.
3. GPT-3.5 powered Agents for delegation of simple tasks.
4. File output.
Performance Evaluation:
1. Continuously review and analyze your actions to ensure you are performing to the best of your abilities.
2. Constructively self-criticize your big-picture behavior constantly.
3. Reflect on past decisions and strategies to refine your approach.
4. Every command has a cost, so be smart and efficient. Aim to complete tasks in the least number of steps.
You should only respond in JSON format as described below Response Format:
{
"thoughts": {
"text": "thought",
"reasoning": "reasoning",
"plan": "- short bulleted\n- list that conveys\n- long-term plan", "criticism": "constructive self-criticism",
"speak": "thoughts summary to say to user"
},
"command": {
"name": "command name",
"args": {
"arg name": "value"
}
}
}
Ensure the response can be parsed by Python json.loads
其中：
Constraints & Resources
設(shè)置局限性。例如模型的輸入 context size 有限制，所以需要把重要的信息保存到文件里。尤其在代碼生成場(chǎng)景中這個(gè)動(dòng)作非常重要，否則無(wú)法實(shí)現(xiàn)長(zhǎng)代碼的生成和執(zhí)行。
另外 AutoGPT 里也給模型提供了長(zhǎng)期記憶的管理功能，當(dāng)前這類(lèi)復(fù)雜 prompt 生成的解決任務(wù)的流程往往比較冗長(zhǎng)，沒(méi)有這類(lèi)長(zhǎng)期記憶的管理很容易就會(huì)導(dǎo)致模型的輸出變得不連貫協(xié)調(diào)。
另外像默認(rèn)的模型是“沒(méi)有聯(lián)網(wǎng)”的，所有的知識(shí)只更新到訓(xùn)練數(shù)據(jù)的截止日期。所以也明確告訴模型可以通過(guò)網(wǎng)絡(luò)搜索來(lái)獲取更多時(shí)效性的外部信息
Commands
在 commands 也就是各類(lèi)工具的選擇上，這里給出的選項(xiàng)非常豐富。這也是為何很多文章宣傳里提到 AutoGPT 能夠完成多種不同任務(wù)的原因之一，靈活性與通用性很高。
具體的 commands 中，可以分為幾大類(lèi)，
搜索
瀏覽網(wǎng)頁(yè)相關(guān)
啟動(dòng)其它的 GPT agent（啟動(dòng)子任務(wù)）
文件讀寫(xiě)操作
代碼生成與執(zhí)行等
目前 GPT 模型對(duì)于越具體生成的表現(xiàn)就越精確和穩(wěn)定。這種“分而治之”的思路非常好。
Performance Evaluation
設(shè)置模型整體思考流程的指導(dǎo)原則，分為了幾個(gè)具體維度，包括對(duì)自己的能力與行為的匹配進(jìn)行 review，大局觀與自我反思，結(jié)合長(zhǎng)期記憶對(duì)決策動(dòng)作進(jìn)行優(yōu)化，以及盡可能高效率地用較少的動(dòng)作來(lái)完成任務(wù)。
這個(gè)思考邏輯也非常符合人類(lèi)的思考方式。
Response
從 response 格式上來(lái)看，也是綜合了幾種模式，包括需要把自己的想法寫(xiě)出來(lái)，做一些 reasoning 獲取相關(guān)背景知識(shí)，生成有具體步驟的 plan，以及對(duì)自己的思考過(guò)程進(jìn)行 criticism 等。
這些格式的限定也是對(duì)前面思維指導(dǎo)原則的具體操作規(guī)范說(shuō)明。
需要注意的是
因?yàn)?AutoGPT 生成的解決流程往往會(huì)非常冗長(zhǎng)，耗費(fèi)的時(shí)間和 token 量都會(huì)非常大
四、本地搭建體驗(yàn) | 需要魔法
要求
Python 3.8或更高版本
OpenAI API密鑰
需要魔法
安裝步驟
第一步 下載 Auto gpt
在本地執(zhí)行 或者直接訪問(wèn)?https://github.com/Significant-Gravitas/Auto-GPT.git?，點(diǎn)擊 download zip
git clone?https://github.com/Significant-Gravitas/Auto-GPT.git
第二步 安裝依賴
cd Auto-GPT
pip install -r requirements.txt
第三步 修改配置
將 .env.template重命名為.env并填寫(xiě)OPENAI_API_KEY（https://platform.openai.com/account/api-keys?獲取自己的key）
第四步 啟動(dòng)
python scripts/main.py
//可能會(huì)出現(xiàn)提示
Please run:
python -m autogpt
那就直接執(zhí)行
python -m autogpt
第四步 目標(biāo)定義
第五步 AutoGPT 理解分析
可以看到 AutoPGT 會(huì)對(duì)我們給的目標(biāo)進(jìn)行分析，告訴我們它是怎么思考的，原因是什么，計(jì)劃是什么，以及接下來(lái)要做什么
我們只需要在 Input 那輸入 Y 即可，AutoGPT就會(huì)繼續(xù)執(zhí)行
第六步 結(jié)果查看
最終結(jié)束后會(huì)在 Auto-GPT/auto_gpt_workspace 目錄下存放結(jié)果，直接查看即可
五、Google colab 一鍵搭建 | 需要魔法 （無(wú)魔法直接下拉看第六章）
如果我們不想在本地搭建，我們可以直接白嫖 Google colab 的資源來(lái)搭建
可以直接參考?https://colab.research.google.com/drive/11cqXILn_wjMUSXzt48-FtiqdPzflX4KL?usp=sharing
六、如何添加Google搜索
如果我們的 apikey 還是 3.5，但是我們希望使用google 搜索的話，我們可以在 AutoGPT 中配置google的key
獲取key
前往 Google Cloud Console?https://console.cloud.google.com/。
如果沒(méi)有帳戶，請(qǐng)創(chuàng)建一個(gè)并登錄。
通過(guò)點(diǎn)擊頁(yè)面頂部的“選擇項(xiàng)目”下拉菜單并點(diǎn)擊“新建項(xiàng)目”來(lái)創(chuàng)建一個(gè)新項(xiàng)目。給它一個(gè)名字，然后點(diǎn)擊“創(chuàng)建”。
前往API和服務(wù)控制臺(tái)（https://console.cloud.google.com/apis/dashboard）并點(diǎn)擊“啟用API和服務(wù)”。搜索“自定義搜索API”，然后點(diǎn)擊它，然后點(diǎn)擊“啟用”。
前往憑據(jù)頁(yè)面（https://console.cloud.google.com/apis/credentials）并點(diǎn)擊“創(chuàng)建憑據(jù)”。選擇“API密鑰”。
復(fù)制API密鑰并將其設(shè)置為電腦上名為GOOGLE_API_KEY的環(huán)境變量。請(qǐng)參見(jiàn)下面的環(huán)境變量設(shè)置。
/Auto-GPT/.env 文件
# GOOGLE_API_KEY - Google API key (Example: my-google-api-key)
# CUSTOM_SEARCH_ENGINE_ID - Custom search engine ID (Example: my-custom-search-engine-id)
GOOGLE_API_KEY=API_KEY
CUSTOM_SEARCH_ENGINE_ID=6110d25e77cbd45de
獲取 Google ENGINE_ID
前往自定義搜索引擎頁(yè)面(https://cse.google.com/cse/all)點(diǎn)擊“添加”。
選擇搜索整個(gè)網(wǎng)絡(luò)或特定站點(diǎn)。
創(chuàng)建完搜索引擎后，點(diǎn)擊“控制臺(tái)”，然后點(diǎn)擊“基礎(chǔ)”。復(fù)制“搜索引擎ID”，并配置在環(huán)境變量中
/Auto-GPT/.env 文件
# GOOGLE_API_KEY - Google API key (Example: my-google-api-key)
# CUSTOM_SEARCH_ENGINE_ID - Custom search engine ID (Example: my-custom-search-engine-id)
CUSTOM_SEARCH_ENGINE_ID=GENINE_ID
每日免費(fèi)自定義搜索配額最多允許100次搜索。要增加此限制，您需要將結(jié)算帳戶分配給該項(xiàng)目，以從每日最多10K搜索中獲利。
七、替代方案 | 不需要魔法
AgentGPT: Autonomous AI in your browser
雖然目前只能設(shè)置一個(gè)目標(biāo)，不過(guò)體驗(yàn)也是足夠的
八、一些限制
目前來(lái)看 Auto-GPT 還是不夠成熟的，雖然它的理念非常好，但還是有很多的限制
雖然通過(guò)把記錄存儲(chǔ)在文件中實(shí)現(xiàn)長(zhǎng)期記憶，但每次處理的次數(shù)依然會(huì)有限制
使用的 token 也非常高。因?yàn)榘阉械挠涗浂即鎯?chǔ)在文件中作為后續(xù)的分析使用（那就必然會(huì)非常頻繁的和ChatGPT 交互）
能不能跑出來(lái)結(jié)果往往和定義的 Goal 有關(guān)。很多時(shí)候跑不出來(lái)結(jié)果，會(huì)導(dǎo)致死循環(huán)
一旦定義了 Goal ，在整個(gè)交互過(guò)程中只能繼續(xù)或退出，沒(méi)有調(diào)教的余地
所以，還是讓子彈再飛一會(huì)兒，大家可以先嘗嘗鮮
