FastGPT:基于 LLM 大語言模型的知識庫問答系統(tǒng)
項目簡介
FastGPT 是一個基于 LLM 大語言模型的知識庫問答系統(tǒng),提供開箱即用的數(shù)據(jù)處理、模型調(diào)用等能力。同時可以通過 Flow 可視化進行工作流編排,從而實現(xiàn)復(fù)雜的問答場景!
FastGPT 能力
1. AI 客服
通過導(dǎo)入文檔或已有問答對進行訓(xùn)練,讓 AI 模型能根據(jù)你的文檔進行回答問題。
2. 自動數(shù)據(jù)預(yù)處理
提供手動輸入、直接分段、LLM 自動處理和 CSV 等多種數(shù)據(jù)導(dǎo)入途徑,兼顧精確和快速訓(xùn)練場景。
3. 工作流編排
基于 Flow 模塊的工作流編排,可以幫助你設(shè)計更加復(fù)雜的問答流程。例如查詢數(shù)據(jù)庫、查詢庫存、預(yù)約實驗室等。
4. 無縫銜接的 OpenAPI
FastGPT 對外 API 接口對齊 GPT 官方接口,你可以直接在現(xiàn)有的 GPT 應(yīng)用中通過修改 BaseURL 和 Authorization 即可接入 FastGPT。
FastGPT 特點
項目開源。FastGPT 遵循 Apache License 2.0 開源協(xié)議,你可以在 GitHub Clone FastGPT 進行二次開發(fā)和發(fā)布。FastGPT 社區(qū)版將保留核心的功能,商業(yè)版僅在社區(qū)版基礎(chǔ)上使用 API 的形式進行擴展,不影響學(xué)習(xí)使用。
獨特的 QA 結(jié)構(gòu)。針對客服問答場景設(shè)計的 QA 結(jié)構(gòu),提高在大量數(shù)據(jù)場景中的準(zhǔn)確性。
可視化工作流。通過 Flow 模塊展示了從問題輸入到模型輸出的完整流程,便于調(diào)試和設(shè)計復(fù)雜流程。
無限擴展?;?HTTP 進行擴展,無需修改 FastGPT 源碼,也可快速接入現(xiàn)有的程序中。
便捷調(diào)試。提供搜索測試、引用修改、完整對話預(yù)覽等多種調(diào)試途徑。
支持多種模型:支持 GPT、Claude、文心一言等多類 LLM 模型,未來也將支持自定義的向量模型。
知識庫核心流程圖
特別說明:本文僅用于學(xué)術(shù)交流,如有侵權(quán)請后臺聯(lián)系小編刪除。
- END -
轉(zhuǎn)載來源:翻譯研究動態(tài)
轉(zhuǎn)載編輯:邢薇