01事件回顧

?

在ChatGPT、文心一言等應(yīng)用以強(qiáng)大整合能力和在自然語(yǔ)言處理上的表現(xiàn)驚艷了全球的同時(shí)，涉及到其中的安全問(wèn)題也應(yīng)被大眾所重視。

?

LangChain是一種可以直接與OpenAI的GPT-3和GPT-3.5模型集成，應(yīng)用于聊天機(jī)器人、生成式問(wèn)答(GQA)、本文摘要等產(chǎn)品的接口框架。而該大語(yǔ)言模型接口框架Python開發(fā)庫(kù)則在近日被披露，存在任意代碼注入執(zhí)行漏洞，嚴(yán)重可能引發(fā)LangChain開發(fā)庫(kù)開發(fā)的程序被執(zhí)行任意代碼的風(fēng)險(xiǎn)。

?

安天下一代Web應(yīng)用防護(hù)系統(tǒng)依托安天CERT強(qiáng)大的漏洞分析和應(yīng)急響應(yīng)能力，第一時(shí)間對(duì)該漏洞進(jìn)行了分析、復(fù)現(xiàn)，對(duì)特征數(shù)據(jù)庫(kù)提供了及時(shí)的更新升級(jí)，有效地保護(hù)了用戶Web資產(chǎn)的安全。

?

請(qǐng)大家盡快獲取特征庫(kù)版本Sigdb-V2-1000-68，進(jìn)行特征庫(kù)升級(jí)，安天下一代Web應(yīng)用防護(hù)系統(tǒng)可以有效識(shí)別并攔截該P(yáng)ython代碼注入漏洞（CVE-2023-29374），同時(shí)在官方補(bǔ)丁發(fā)布不及時(shí)或者補(bǔ)丁修復(fù)不完全等情況下，部署安天下一代Web應(yīng)用防護(hù)系統(tǒng)可有效的緩解該類型的威脅。

?

升級(jí)包獲取方式，聯(lián)系安天售后進(jìn)行獲取。聯(lián)系方式如下：

全國(guó)服務(wù)熱線：400-840-9234

售后支持郵箱：support@antiy.cn

02漏洞說(shuō)明及影響版本

?

LangChain是一種LLMs接口框架，它允許用戶圍繞大型語(yǔ)言模型快速構(gòu)建應(yīng)用程序和管道。它直接與OpenAI的GPT-3和GPT-3.5模型以及Hugging Face的開源替代品（如Google 的flan-t5模型）集成，可用于聊天機(jī)器人、生成式問(wèn)答(GQA)、本文摘要等。

?

近日，該大語(yǔ)言模型接口框架Python開發(fā)庫(kù)被披露存在任意代碼注入執(zhí)行漏洞（CVE-2023-29374），其LLMMathChain chain中未正確使用exec和eval，導(dǎo)致受影響版本(先于v0.0.131：來(lái)自公告)存在任意代碼執(zhí)行漏洞。(https://cve.mitre.org/cgi-bin/cvename.cgi?name=CVE-2023-29374)

?

根據(jù)該漏洞披露的信息，漏洞出現(xiàn)在LLMMathChain，該功能用于使用LLM和Python REPL 來(lái)解決相關(guān)的計(jì)算問(wèn)題。

?

經(jīng)測(cè)試，在最近的版本v0.0.139中仍可被觸發(fā)。

03漏洞防護(hù)方式

3.1 漏洞利用場(chǎng)景

漏洞利用場(chǎng)景：該漏洞屬于開發(fā)庫(kù)中存在可被注入代碼的情況，在實(shí)際環(huán)境中可能存在通過(guò)Web服務(wù)來(lái)輸入的場(chǎng)景，安天下一代Web應(yīng)用防護(hù)系統(tǒng)針對(duì)該場(chǎng)景具備檢測(cè)與防御的能力。

?

3.2 特征庫(kù)升級(jí)防護(hù)

特征防護(hù)：預(yù)定義特征規(guī)則防護(hù)可識(shí)別Python代碼注入的場(chǎng)景。安天下一代Web應(yīng)用防護(hù)系統(tǒng)升級(jí)服務(wù)已完善針對(duì)該類型的攻擊特征，通過(guò)特征庫(kù)升級(jí)可進(jìn)行漏洞防護(hù)。特征庫(kù)版本：Sigdb-V2-1000-68，已包含“LangChain代碼注入漏洞(CVE-2023-29374)”漏洞的防護(hù)規(guī)則。

?

特征防護(hù)過(guò)程：

?

1）在對(duì)應(yīng)特征檢測(cè)策略中開啟“已知漏洞防護(hù)”攻擊類別，并將告警動(dòng)作設(shè)置為“阻斷”。

2）發(fā)送攻擊請(qǐng)求，針對(duì)該漏洞的攻擊被成功攔截。

3.3 特征數(shù)據(jù)庫(kù)實(shí)時(shí)升級(jí)

特征數(shù)據(jù)庫(kù)支持在線實(shí)時(shí)升級(jí)和離線手動(dòng)升級(jí)。通過(guò)在線實(shí)時(shí)升級(jí)功能，用戶的特征數(shù)據(jù)庫(kù)能得到及時(shí)的更新。

對(duì)于存在網(wǎng)絡(luò)訪問(wèn)限制的用戶，可以通過(guò)手動(dòng)升級(jí)的方式對(duì)安天下一代Web應(yīng)用防護(hù)系統(tǒng)特征數(shù)據(jù)庫(kù)進(jìn)行升級(jí)。對(duì)于高危漏洞，安天青竹智語(yǔ)實(shí)驗(yàn)室會(huì)及時(shí)向用戶發(fā)送告警通知，用戶可以自行下載升級(jí)包進(jìn)行手動(dòng)升級(jí)。

04安天下一代Web應(yīng)用防護(hù)系統(tǒng)介紹

?

安天Web應(yīng)用防護(hù)系統(tǒng)，是集Web安全防御、機(jī)器人攻擊防護(hù)、用戶業(yè)務(wù)訪問(wèn)控制、業(yè)務(wù)邏輯異常檢測(cè)、業(yè)務(wù)威脅評(píng)估以及業(yè)務(wù)數(shù)據(jù)分析為一體的綜合業(yè)務(wù)安全分析產(chǎn)品。

產(chǎn)品通過(guò)將用戶、訪問(wèn)來(lái)源、業(yè)務(wù)三者數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析，及時(shí)發(fā)現(xiàn)業(yè)務(wù)威脅事件。并具備自學(xué)習(xí)能力，對(duì)客戶業(yè)務(wù)進(jìn)行梳理，用戶跟蹤分析，發(fā)現(xiàn)用戶越權(quán)行為。產(chǎn)品為客戶的API業(yè)務(wù)提供安全防護(hù)，并針對(duì)用戶業(yè)務(wù)可進(jìn)行安全策略定制。產(chǎn)品具備用戶來(lái)源和業(yè)務(wù)訪問(wèn)回溯能力，通過(guò)梳理攻擊路徑的方式，還原事件過(guò)程，發(fā)現(xiàn)風(fēng)險(xiǎn)第一現(xiàn)場(chǎng)。

?