LangChain Universe = LangChain + LangServe + LangSmith + ???

上周，LLM 應(yīng)用開發(fā)框架?LangChain 發(fā)布了一個新的子開源項目 —— LangServe，并將它定位為“部署 LangChain 的最佳方式”。加上早先發(fā)布的 LangSmith，“LangChain?宇宙”似乎逐步浮出水面，這套系統(tǒng)由 LangChain、LangServe 和 LangSmith 這幾個關(guān)鍵組成部分構(gòu)成，可為開發(fā)者提供從原型設(shè)計到產(chǎn)品化再到運(yùn)行監(jiān)測的全流程支持，極大地簡化了利用大型語言模型構(gòu)建應(yīng)用的過程。

LangChain 這個框架是整個生態(tài)系統(tǒng)的核心。它提供了一套建立在 Python 和 JS/TS 之上的工具集，讓開發(fā)者可以方便地調(diào)用各類 LLM 服務(wù)，并將它們與檢索、向量存儲等其他模塊組合起來，構(gòu)建一個端到端的 LLM 應(yīng)用鏈。LangChain?在最近的迭代中，發(fā)布了一種叫LangChain Expression Language（LCEL）的特殊語法來定義和構(gòu)建這些應(yīng)用鏈。LCEL 非常簡單直接，開發(fā)者只需要編寫少量代碼就可以構(gòu)建出功能強(qiáng)大的 LLM 應(yīng)用原型。它支持流式傳輸、異步執(zhí)行、中間結(jié)果訪問等高級功能，可以使得 LLM 應(yīng)用性能和開發(fā)效率大幅提升。

而最新發(fā)布的?LangServe 則提供了將 LCEL 原型部署成產(chǎn)品服務(wù)的完整解決方案。它可以將?LCEL 應(yīng)用鏈接入到一系列成熟到?Python 的 Web 框架（例如?FastAPI、Pydantic、uvloop、asyncio）中并生成一套?RESTful API，開發(fā)者無需自己編寫這部分邏輯就可以直接得到生產(chǎn)可用的 API，并得以保證 API 在高并發(fā)場景下的穩(wěn)定性與性能。它同時也提供了輸入輸出數(shù)據(jù)結(jié)構(gòu)校驗、并發(fā)請求處理、流式響應(yīng)等服務(wù)化所需的各種功能。有了 LangServe，開發(fā)者可以“從零到一”無縫地實現(xiàn) LLM 應(yīng)用從原型到產(chǎn)品的過渡。

最后，LangSmith 為 LangChain 生態(tài)增加了運(yùn)行監(jiān)測與分析的能力。它可以收集 LLM 應(yīng)用的各類運(yùn)行指標(biāo)，并進(jìn)行分析展示，幫助開發(fā)者更深入地理解應(yīng)用的運(yùn)行狀況。LangSmith 可以非常容易地集成到基于 LangServe 部署的服務(wù)中，為持續(xù)優(yōu)化提供數(shù)據(jù)支持。

綜上看來，LangChain 團(tuán)隊為 LLM 應(yīng)用開發(fā)布局了一套一站式的全流程支持：開發(fā)者可以使用簡單直觀的 LCEL 語法快速構(gòu)建原型，再用LangServe無縫轉(zhuǎn)換為生產(chǎn)級服務(wù)，最后借助 LangSmith 實現(xiàn)運(yùn)營監(jiān)測與迭代優(yōu)化。LangChain 生態(tài)極大地降低了 LLM 應(yīng)用開發(fā)的門檻，使更多開發(fā)者無需復(fù)雜的分布式系統(tǒng)開發(fā)經(jīng)驗就可以參與到 LLM 應(yīng)用革命中來。

所以，如果你是一個有編程基礎(chǔ)并對 LLM 應(yīng)用開發(fā)感興趣的程序員或創(chuàng)業(yè)者，我強(qiáng)烈建議你關(guān)注并學(xué)習(xí) LangChain 的系列開源項目，它們非?？赡軙δ愕墓ぷ鳟a(chǎn)生深遠(yuǎn)的正面影響，至少讓你的 LLM 應(yīng)用開發(fā)之旅有一個更輕松的起步。??