• Opensource development framwork for LLM applicaitons
• Python and JavaScript(TypeScript)packages
• Focus on compostion and modularity
• Key value adds:

1. Modular compents

2.Use cases:Common ways to combine components

• LLM應用開發(fā)的開源框架（LLM = Large Language Model，大語言模型）
• 有Python 和 JavaScript(TypeScript) 開發(fā)包
• 聚焦 組合 和 模塊化
• 關鍵內容:
• 1、模塊化部件
• 2、用例 : 用常規(guī)的方式組合組件

Models

• LLMs: 20+integrations
• Chat Models
• Text Embedding Models: 10+ integrations

Prompts

• Prompt Templates
• Output Parsers: 5+ implementations
• Retry/fixing logic
• Example Selectors: 5+ implementations

Indexes

• Document Loaders: 50+ implementations
• Text Splitters: 10+ implementations
• Vector stores: 10+ integrations
• Retrievers: 5+integrations/implementations

Chains

• Prompt + LLM + Output parsing
• Can be used as building blocks for longer chains
• More application specific chains: 20+ types

Agents

• Agent Types: 5+ types
• Algorithms for getting LLMs to use tools
• Agent Toolkits: 10+ implementations
• Agents armed with specific tools for aspecific application

模型

• 大語言模型: 20+
• 聊天模型
• 文本嵌入模型: 10+?

提示詞

• 提示詞模型
• 輸出解析器: 5+?
• 重試/修復邏輯 logic
• 選擇器示例: 5+?

索引

• 文檔加載器: 50+?
• 文本拆分器: 10+?
• 向量存儲: 10+?
• 檢索器: 5+i

鏈

• 提示+LLM+輸出解析
• 可以用作較長鏈條的構建塊
• 更多特定應用鏈：20多種類型

代理

• 代理類型：5種以上類型
• 讓LLM使用工具的算法
• 代理工具包：10多種實現(xiàn)
• 為特定應用配備特定工具的代理