本周帶來的?9?個模型項目分別用于聊天對話、AI代理構(gòu)建、多語言對話等；4?個工具項目用于LLM評估、代碼生成、AI智能系統(tǒng)構(gòu)建

智源發(fā)布首個支持商用許可、中英雙語知識、國內(nèi)數(shù)據(jù)合規(guī)的「悟道?天鷹」語言大模型系列Aquila

近日在智源大會上，智源發(fā)布了首個具備中英雙語知識、支持商用許可協(xié)議、支持國內(nèi)數(shù)據(jù)合規(guī)要求的「悟道?天鷹」（Aquila）語言大模型系列，它包含了 Aquila 基礎(chǔ)模型（7B、33B）以及 AquilaChat 對話模型和 AquilaCode 文本 - 代碼生成模型。Aquila 語言大模型在技術(shù)上繼承了 GPT-3、LLaMA 等的架構(gòu)設計優(yōu)點，替換了一批更高效的底層算子實現(xiàn)、重新設計實現(xiàn)了中英雙語的 tokenizer，升級了 BMTrain 并行訓練方法，訓練效率是 Magtron+DeepSpeed ZeRO-2 的近 8 倍。此外在中英文高質(zhì)量語料基礎(chǔ)上從０開始訓練，通過數(shù)據(jù)質(zhì)量控制、多種訓練優(yōu)化方法，在更小數(shù)據(jù)集、更短訓練時間下，實現(xiàn)比其他開源模型更優(yōu)秀的性能。

獲取資源：

https://sota.jiqizhixin.com/project/aquila

開源 AI 代理框架 SuperAGI，快速構(gòu)建強大智能自主系統(tǒng)

SuperAGI 是一個專為開發(fā)者優(yōu)化的自主 AI 代理框架，類似于 AutoGPT，但對開發(fā)者更加友好。SuperAGI 提供了并發(fā)運行 agent、優(yōu)化 token、性能監(jiān)控、提供圖形界面等多種功能。該框架可作為大模型應用開發(fā)和管理的工具，為 AI 開發(fā)者提供了許多功能，例如生成和部署自主 AI 代理、工具擴展代理能力、無縫運行并發(fā)代理、圖形用戶界面等。通過 SuperAGI，開發(fā)者可以快速創(chuàng)建和訓練能夠執(zhí)行廣泛任務并做出智能決策的人工智能代理。該框架還強調(diào)可靠性，提供了代理監(jiān)測、容錯和錯誤處理的功能，使開發(fā)者能夠建立強大和可靠的自主系統(tǒng)。SuperAGI 被設計為用戶友好型，允許開發(fā)者快速開發(fā)和試驗不同的代理架構(gòu)和算法，從而加速 AI 開發(fā)過程。

獲取資源：

https://sota.jiqizhixin.com/project/superagi

虎博科技發(fā)布自研大模型 TigerBot，提供大模型應用開發(fā)所需的 API，以及多領(lǐng)域?qū)I(yè)數(shù)據(jù)

TigerBot 是一個多語言多任務的大規(guī)模語言模型（LLM），提供了多個模型和 API，包括 TigerBot-7B、TigerBot-7B 基礎(chǔ)版和 TigerBot-180B（研究版），可用于快速構(gòu)建自己的大模型和數(shù)據(jù)。TigerBot 提供了基本的訓練和推理代碼，包括雙卡推理 180B 模型的量化和推理代碼，還提供了領(lǐng)域數(shù)據(jù)，涵蓋金融、法律、百科等多個領(lǐng)域。TigerBot 在模型架構(gòu)和算法上做了許多優(yōu)化，例如指令完成監(jiān)督微調(diào)的創(chuàng)新算法、并行訓練上突破了主流框架中的若干內(nèi)存和通信問題等。它適合于大模型應用開發(fā)者，可以實現(xiàn)更好的可學習性、事實性和創(chuàng)造性。

獲取資源：

https://sota.jiqizhixin.com/project/tigerbot

符堯團隊開源評估套件 Chain-of-thought Hub，為大型語言模型多步推理能力提供統(tǒng)一平臺

Chain-of-thought Hub 是一個關(guān)于大型語言模型多步推理能力的開源評估套件，旨在成為評估語言模型推理能力的統(tǒng)一平臺。該套件由符堯團隊提出，包括數(shù)學（GSM8K）、科學（MATH）、符號（BBH）、知識（MMLU）等復雜推理任務的列表，以衡量哪些模型在多步推理任務上表現(xiàn)更好。最近，較小模型的研究在對話能力上取得了令人振奮的進展，這讓人們想象，較小的模型能否具有與像 GPT-3.5 這樣的大型模型相當?shù)男阅?。在目前階段，找到正確的衡量標準對于開發(fā)強大的語言模型至關(guān)重要，而 Chain-of-thought Hub 旨在提供這樣的標準。

獲取資源：

https://sota.jiqizhixin.com/project/chain-of-thought-hub-2

基于 Transformer 進行代碼智能任務的訓練和推理，支持 SOTA CodeLLMs 的快速集成和多語言代碼操作庫

CodeTF 是一個基于 Transformer 的 Python 庫，旨在幫助開發(fā)者訓練和推理代碼智能任務，例如代碼摘要、翻譯和生成。它支持 SOTA CodeLLMs 快速集成到實際應用中，并提供多種語言的代碼操作工具。除了核心 LLMs 的代碼功能外，CodeTF 還提供了跨多種語言的代碼操作工具，包括易于提取代碼屬性。該庫的當前版本還提供快速模型服務，用于具有預量化模型（int8、int16、float16）的快速推理。以及提供了代碼基礎(chǔ)語言模型的最新預訓練檢查點（CodeBERT、CodeT5、CodeGen、CodeT5+、Incoder、StarCoder 等）。

獲取資源：

https://sota.jiqizhixin.com/project/codetf

基于 LLAMA 模型微調(diào)的強大聊天機器人模型 OpenBuddy，支持多語言對話和翻譯任務

OpenBuddy 是一款強大的開源多語言聊天機器人模型，為全球用戶提供對話 AI 和流暢的多語言支持，包括英文、中文等多種語言。該模型基于 Facebook 的 LLaMA 模型進行微調(diào)，包括擴展詞匯表、增加常用字符和增強的 token embeddings。OpenBuddy 提供了一個強大的模型，能回答問題并在各種語言之間進行翻譯任務。OpenBuddy 項目旨在提供一個免費、開放且可離線使用的 AI 模型，該模型可以在用戶的設備上運行，無論他們的語言或文化背景如何。該模型包括兩種版本：7B 和 13B，并支持多語言對話 AI，以及增強的詞匯表和對常見 CJK 字符的支持。目前，OpenBuddy-13B 的演示版本可以在 Discord 服務器上找到。

獲取資源：

https://sota.jiqizhixin.com/project/openbuddy

蘇黎世聯(lián)邦理工學院的研究者提出 HQ-SAM 模型，可在準確地分割任何對象時保持 SAM 的原始特點和高效性

SAM 具有強大零樣本能力，但在分割復雜結(jié)構(gòu)物體時不夠準確。蘇黎世聯(lián)邦理工學院提出 HQ-SAM，通過融合 ViT 特征預測高質(zhì)量掩模，保持了 SAM 的原始特點和高效性，同時準確地分割任何對象。HQ-SAM 基于含 44K 細粒度掩模的數(shù)據(jù)集進行訓練，在不同下游任務中表現(xiàn)良好。

獲取資源：

https://sota.jiqizhixin.com/project/hq-sam

開源個人 AI 操作系統(tǒng) OpenDAN，提供運行時環(huán)境和互操作性協(xié)議，構(gòu)建安全的個人 AI 應用程序

OpenDAN（Open and Do Anything Now with AI）是一個開源的個人 AI 操作系統(tǒng)，將各種 AI 模塊集成到一個地方，供個人使用。OpenDAN 為不同的 AI 模塊提供運行時環(huán)境和互操作性協(xié)議。使用 OpenDAN，用戶可以安全地使用他們的私人數(shù)據(jù)與各種 AI 模塊進行協(xié)作，創(chuàng)建強大的個人 AI 代理，如管家、律師、醫(yī)生、教師、助手、女友或男友等。OpenDAN 提供了一個開放的框架，使開發(fā)者可以將自己的 AI 模塊集成到該操作系統(tǒng)中，并與其他模塊無縫協(xié)作。OpenDAN 的設計也注重用戶隱私和數(shù)據(jù)安全，開發(fā)者可使用 OpenDAN 構(gòu)建安全的個人 AI 應用程序。

獲取資源：

https://sota.jiqizhixin.com/project/opendan

中國人大發(fā)布基于 LLaMA 微調(diào)的大型雙語語言模型 YuLan-Chat，通過高質(zhì)量指令訓練，可與用戶進行中英文對話

YuLan-Chat 是一款基于對話的大型雙語語言模型（聊天機器人），由中國人民大學開發(fā)。它經(jīng)過 LLaMA 微調(diào)，并使用高質(zhì)量的中英文指令進行訓練，能夠輕松地按照英文或中文指令與用戶進行對話。YuLan-Chat 在英文和中文基準測試中表現(xiàn)出色，并可在 GPU（A800-80G 或 RTX3090）上進行部署。此外，YuLan-Chat 采用多階段指令構(gòu)建方法，提高了指令數(shù)據(jù)集的多樣性和難度。當前該項目發(fā)布了模型權(quán)重差異、恢復腳本、量化腳本的推理以及高質(zhì)量的說明結(jié)構(gòu)細節(jié)等。

獲取資源：

https://sota.jiqizhixin.com/project/yulan-chat

劍橋大學等提出通用指令跟隨模型 PandaGPT，將大型語言模型與多種模態(tài)對齊，可完成多種模態(tài)的復雜任務

劍橋大學等提出通用指令跟隨模型 PandaGPT，其將大型語言模型與多種模態(tài)對齊，可以完成生成詳細的圖像描述、根據(jù)視頻編寫故事以及回答關(guān)于音頻的問題等復雜任務。PandaGPT 可以同時接收多模態(tài)輸入，并自然地組合它們的語義。為了實現(xiàn)這一功能，PandaGPT 結(jié)合了來自 ImageBind 的多模態(tài)編碼器和 Vicuna 的大型語言模型。盡管 PandaGPT 僅使用對齊的圖像-文本對進行訓練，但它在六種模態(tài)（文本、圖像/視頻、音頻、深度、熱量和 IMU）之間展現(xiàn)了令人印象深刻的跨模態(tài)能力。

獲取資源：

https://sota.jiqizhixin.com/project/pandagpt

基于真實醫(yī)療對話數(shù)據(jù)的微調(diào)大型語言模型 MedQA-ChatGLM，為醫(yī)療領(lǐng)域提供精準的個性化建議

MedQA-ChatGLM 模型是一種專門針對醫(yī)學領(lǐng)域進行優(yōu)化的大語言模型，在 ChatGLM 上經(jīng)過了 LoRA、P-Tuning V2、Freeze、RLHF 等微調(diào)。該模型可以更準確地理解患者的問題，并根據(jù)其癥狀和歷史記錄提供個性化建議。MedQA-ChatGLM 基于真實醫(yī)療對話數(shù)據(jù)進行微調(diào)，提供了 LoRA、Freeze、P-Tuning V2 等微調(diào)命令及對應的模型權(quán)重、多 GPU 分布式訓練配置和推理可視化測試代碼。

獲取資源：

https://sota.jiqizhixin.com/project/medqa-chatglm

基于開源大型語言模型的推理服務器 Modelz LLM，提供多種 API 和 OpenAI 兼容的接口

Modelz LLM 是一款推理服務器，可在本地或云環(huán)境中使用開源大型語言模型（LLM），例如 FastChat、LLaMA 和 ChatGLM，并提供 OpenAI 兼容的 API。它支持 OpenAI 的 Python SDK 和 LangChain，可輕松部署并提供不同模型的 Docker 鏡像。使用 OpenAI 的 Python SDK 可以實現(xiàn)交互，而與 LangChain 集成也同樣方便。此外，Modelz LLM 還支持多種 API，包括補全對話、嵌入和引擎等。通過 Modelz LLM，開發(fā)者可以快速部署和使用開源大型語言模型，實現(xiàn)對話補全、嵌入和引擎等多種應用場景。

獲取資源：

https://sota.jiqizhixin.com/project/modelz-llm

專為醫(yī)療領(lǐng)域開發(fā)的大型語言模型 MedicalGPT，可為醫(yī)療行業(yè)提高醫(yī)療指導和咨詢的質(zhì)量

MedicalGPT 是一個專為醫(yī)療領(lǐng)域開發(fā)的大型語言模型，通過二次預訓練、有監(jiān)督微調(diào)、獎勵建模和強化學習訓練等四個階段來提高模型的準確性和人性化?；?ChatGPT Training Pipeline，MedicalGPT 實現(xiàn)了領(lǐng)域模型--醫(yī)療模型的四階段訓練，具體包括增量預訓練、有監(jiān)督微調(diào)、獎勵模型建模和基于人類反饋的強化學習。MedicalGPT 提供了一個簡潔的基于 Gradio 的交互式 Web 界面，用戶可以通過瀏覽器輸入問題，模型將返回答案。

獲取資源：

https://sota.jiqizhixin.com/project/medicalgpt

： 在瀏覽器地址欄輸入新版站點地址 sota.jiqizhixin.com ，即可前往「SOTA！模型」平臺，查看關(guān)注的模型是否有新資源收錄。?

移動端訪問：在微信移動端中搜索服務號名稱「機器之心SOTA模型」或 ID 「sotaai」，關(guān)注 SOTA！模型服務號，即可通過服務號底部菜單欄使用平臺功能，更有最新AI技術(shù)、開發(fā)資源及社區(qū)動態(tài)定期推送。