ILLA Cloud 是一個(gè)面向開發(fā)者的開源低代碼開發(fā)平臺(tái)，平臺(tái)專注于幫助開發(fā)者快速建立企業(yè)內(nèi)部應(yīng)用，為開發(fā)者節(jié)約數(shù)據(jù)調(diào)用與頁面設(shè)計(jì)的時(shí)間。平臺(tái)具有面向開發(fā)者、數(shù)據(jù)整合、協(xié)同開發(fā)、靈活部署等功能與特點(diǎn)，通過少量代碼輸入以及拖拉拽等形式搭建此類定制化系統(tǒng)，降低開發(fā)者、工程師的研發(fā)成本。

今天，我們正式與 ILLA Cloud 共同宣布這個(gè)新的合作: ILLA Cloud 已經(jīng)正式支持集成 Hugging Face Hub 上的 AI 模型庫和其他相關(guān)功能啦！

我們希望通過此次合作共同推進(jìn) AIGC / Generative AI 在生產(chǎn)力工具領(lǐng)域的實(shí)踐和落地，幫助更多團(tuán)隊(duì)通過 AI 提升工作效率，以節(jié)省更多的時(shí)間和精力去應(yīng)對(duì)更具有挑戰(zhàn)的工作。從今天開始，你就可以在 ILLA?Cloud?中體驗(yàn) AI 啦！

ILLA x Hugging Face

在 Hugging Face 中，有超過 13 萬個(gè)機(jī)器學(xué)習(xí)模型可以通過公開的 API 訪問，你可以免費(fèi)使用、測試這些 API。此外，如果你需要用于生產(chǎn)場景，可以使用 Hugging Face 提供的解決方案 Endpoints，部署并使用 Inference Endpoints 訪問。

ILLA Cloud 提供了數(shù)十種常用的前端組件，支持根據(jù)實(shí)際需求快速搭建不同的前端界面。同時(shí)，ILLA?Cloud 也提供了連接到 Hugging Face 的連接方式，可以快速連接到 Hugging Face API，發(fā)起請(qǐng)求并拿到返回?cái)?shù)據(jù)。將 API 和前端組件連接，即可實(shí)現(xiàn)用戶通過前端填入內(nèi)容并提交給 API，API 返回生成內(nèi)容并展示到前端的需求。

在 ILLA Cloud?中使用 Hugging Face

步驟 1: 在 ILLA Cloud 中使用組件構(gòu)建 UI

我們先來基于我們期望的使用場景搭建前端界面。

例如，如果你的產(chǎn)品是輸入文字、輸出生成圖，那你可以使用輸入組件和圖片組件；如果你的產(chǎn)品是輸入文字、輸出生成也是文字，那你可以使用輸入組件或文本組件。

下圖是一個(gè)基于文本內(nèi)容做問答的應(yīng)用界面:

步驟 2: 創(chuàng)建一個(gè) Hugging Face 資源，并配置 Action

點(diǎn)擊 Action 列表的「+ 新建」并選擇 Hugging Face Inference API:

通過完成下述表單，配置 Hugging Face 資源:

• 名稱: 由你自定義的該資源在 ILLA Cloud 中顯示的名稱；

• Token: 注冊并登錄 Hugging Face，點(diǎn)擊右上角頭像，通過 Profile Settings 下的 Access Tokens 頁面新建并獲取 Token 填入: https://hf.co/settings/tokens

接下來我們配置 Action。首先是確認(rèn) Hugging Face 中模型的連接信息，你需要前往 Hugging Face Hub 頁面，按需選擇模型:?https://hf.co/models

本文我們以?luhua/chinese_pretrain_mrc_roberta_wwm_ext_large?模型為例，進(jìn)入模型的詳情頁，點(diǎn)擊右上方 Deploy，并選擇 Inference API:
https://hf.co/luhua/chinese_pretrain_mrc_roberta_wwm_ext_large

這里在?inputs?參數(shù)后面的內(nèi)容，就是你需要在 ILLA Cloud 中配置的參數(shù)內(nèi)容:

接下來回到 ILLA Cloud 的 Action 配置，需要填入 Model ID 和 Parameter。對(duì)于上圖的 Model 輸入是多個(gè)鍵值對(duì)的場景，我們提供了鍵值對(duì)輸入和 JSON 輸入兩種方式，如下圖:

此外，ILLA Cloud 還支持輸入文本和二進(jìn)制文件，能夠滿足 Hugging Face 中現(xiàn)存模型的需求。

步驟 3: 連接 Action 和組件

將用戶前端輸入傳給 API 的需求: 使用?{{?獲取組件里輸入的數(shù)據(jù)，如?input2?組件用于輸入?question、input1?組件用于輸入?context，只需要在 Action 中這兩個(gè)參數(shù)值的位置，填入相關(guān)信息即可。下面是使用 JSON 的示例代碼:

接下來，我們要在前端組件中展示 Action 的輸出數(shù)據(jù)。

我們需要確認(rèn)不同模型的輸出放在哪個(gè)字段，仍以?luhua/chinese_pretrain_mrc_roberta_wwm_ext_large?模型為例，運(yùn)行結(jié)果如下:

因此這里我們可以用?{{ textQuestion.data[0].answer }}?來獲取答案 (其中，textQuestion?是 Action 的名稱)，將?{{ textQuestion.data[0].answer }}?填入用于展示結(jié)果的組件的屬性配置即可:

大功告成！

以上就是使用 ILLA Cloud 集成 Hugging Face 上的模型快速構(gòu)建一個(gè)智能問答機(jī)器人的應(yīng)用界面。在公司內(nèi)部使用的場景下，還可以通過類似的模型解決很多具體場景的問題，比如內(nèi)部資料通過模型訓(xùn)練之后的問答客服，隨著不同的內(nèi)容輸入，也可以應(yīng)用在更多場景。另外，Hungging Face 上還有很多有趣的模型，通過 ILLA Cloud 的調(diào)用可以快速地實(shí)現(xiàn)一些有趣的功能，比如在極短的時(shí)間構(gòu)建類似 Lite 版本的 ChatGPT 或者圖像生成內(nèi)容的應(yīng)用等。

如果你做了哪些有趣的、幫助通過 AI 提升團(tuán)隊(duì)效率的應(yīng)用，歡迎你通過留言的方式告訴我們，我們已經(jīng)迫不及待地看到你使用 ILLA Cloud 和 Hugging Face 構(gòu)建的應(yīng)用啦！

即刻體驗(yàn) ILLA Cloud:?https://www.illacloud.com/