Hugging Face: 代碼生成模型的預(yù)訓(xùn)練和微調(diào)
2023-10-23 02:20 作者:HuggingFace | 我要投稿
和大家分享我們的機器學(xué)習(xí)工程師 Loubna Ben Allal 在 10 月上海 KubeCon 大會的主題演講 ??
題目是： 代碼生成模型的預(yù)訓(xùn)練和微調(diào)
演講介紹了構(gòu)建和訓(xùn)練大型代碼模型比如: StarCoder ?? 的幕后過程，
還探討了如何使用開源庫，包括 Transformers、datasets 和 PEFT 等。
標(biāo)簽：
