Hugging News #0414: Attention 在多模態(tài)領(lǐng)域的應用、Unity API 發(fā)布

每一周,我們的同事都會向社區(qū)的成員們發(fā)布一些關(guān)于 Hugging Face 相關(guān)的更新,包括我們的產(chǎn)品和平臺更新、社區(qū)活動、學習資源和內(nèi)容更新、開源庫和模型更新等,我們將其稱之為「Hugging News」,本期 Hugging News 有哪些有趣的消息,快來看看吧!
社區(qū)動向
Attention 在多模態(tài)領(lǐng)域的應用

注意力機制改變了許多學科的深度學習研究,從 NLP 開始擴展到視覺、語音等。注意力機制的使用在深度學習研究中變得越來越流行,理解和解釋注意力機制的內(nèi)部工作是至關(guān)重要的。
我們發(fā)布了一個教程,介紹了 Attention 在視覺和多模態(tài)情景中的應用,重點講解了如何理解和解釋注意力,包括使用注意力作為解釋、探究注意力的深度和廣度、探究跨注意力等方面以及一些最新研究成果和未來研究方向。
查看示例和教程內(nèi)容: https://hf.co/all-things-vits
Scikit-learn

我們正在聯(lián)合 Scikit-learn 共同舉辦社區(qū)沖刺活動,時間是 4 月 12 日 - 4 月 30 日。在這個社區(qū)沖刺活動中,我們將從 Scikit-learn 文檔中構(gòu)建交互式演示,并將這些演示直接貢獻給文檔。我們會使用 Gradio 庫來創(chuàng)建前端應用,支持數(shù)據(jù)可視化庫和 skops 集成,使用一行代碼就能啟動分類或回歸界面。
應用構(gòu)建完成后,我們將創(chuàng)建一個 Hugging Face Space,上傳應用文件和?requirements.txt
?就可以將應用部署。最后將應用 PR 回 scikit-learn 庫的原始文檔。這是一個很好的貢獻開源的方式,快來參加吧!
查看活動安排: https://github.com/huggingface/community-events/blob/main/sklearn-sprint/guidelines.md
開源庫更新
Gradio 主題構(gòu)建器正式開源

Gradio 主題構(gòu)建器 (Gradio Theme Builder) 是一個開源的機器學習應用的 GUI 工具,可以幫助用戶輕松構(gòu)建機器學習應用的 UI 界面。只需升級版本,運行?gr.themes.builder()
?即可。
Transformers 支持流式輸出

從 4.28 版本開始,?? transformers 庫加入了?generate()
?流式生成器,支持文本—文本、語音—文本或圖像—文本模型的輸出流式傳輸。開發(fā)者可以通過添加?TextStreamer
?類輕松實現(xiàn)文本輸出流,也可以根據(jù)需要創(chuàng)建自己的流式傳輸類。未來,?? transformers 還會將此功能擴展到 beam search 方法、pipeline
?類和 Gradio 等。
查看文檔: https://hf.co/docs/transformers/main/en/generation_strategies#streaming
學習資源 & 內(nèi)容更新
新的學習資源頁面

我們將 NLP 課程和 RL 課程放在了一個新的學習資源頁面: https://hf.co/learn
Hugging Face Unity API

開源的 Hugging Face Unity API 發(fā)布啦,它可以讓你更輕松地在 Unity 項目中使用 Hugging Face 推理 API。目前支持對話 API,未來會增加更多功能。
查看應用示例: https://hf.co/spaces/dylanebert/unity-chat
查看開源代碼: https://github.com/huggingface/unity-api
使用 Flower 在 IMDB 數(shù)據(jù)集上微調(diào) distilBERT 進行序列分類

我們發(fā)布了一篇博客,介紹了如何使用 Hugging Face 和 Flower 在多端進行語言模型的聯(lián)邦訓練。以 IMDB 數(shù)據(jù)集為例,使用預訓練的 Transformer 模型(distilBERT)進行序列分類,最終目標是檢測電影評分是積極還是消極。
查看這篇博客文章: https://hf.co/blog/fl-with-flower
使用 Hugging Face 輕松構(gòu)建機器學習應用程序

Docker 團隊發(fā)布了一篇博文,介紹了 Hugging Face 團隊對 Docker Spaces 的支持——用戶可以通過編寫 Dockerfile 來創(chuàng)建任何自定義應用程序,并詳細介紹了如何創(chuàng)建 Docker Space 并編寫 FastAPI 應用程序進行文本生成。
查看這篇文章: https://www.docker.com/blog/build-machine-learning-apps-with-hugging-faces-docker-spaces/
以上就是本周的 Hugging News,祝大家周末愉快!