根據(jù)Endor Labs的數(shù)據(jù)，開源在人工智能技術(shù)堆棧中發(fā)揮著越來(lái)越大的作用，但大多數(shù)(52%)項(xiàng)目在其清單文件中引用了已知的易受攻擊的依賴項(xiàng)。

這家安全供應(yīng)商最新的依賴管理狀態(tài)報(bào)告稱，在發(fā)布后的短短五個(gè)月里，ChatGPT的API被用于900個(gè)npm和PyPI包中，涉及不同的問題領(lǐng)域，其中70%是全新的包。

然而，Endor Labs警告說，對(duì)于任何開源項(xiàng)目，必須管理與脆弱依賴項(xiàng)相關(guān)的安全風(fēng)險(xiǎn)。

Osterman Research首席分析師邁克爾?桑普森(Michael Sampson)表示:“看到最新一代的人工智能api和平臺(tái)抓住了公眾的想象力，這是一件美妙的事情，但這份來(lái)自Endor Labs的報(bào)告提供了生動(dòng)的證據(jù)，證明安全并沒有跟上步伐?！?/p>

更多地采用能夠更快地識(shí)別和自動(dòng)修復(fù)潛在弱點(diǎn)的技術(shù)，將在這一關(guān)鍵領(lǐng)域產(chǎn)生巨大影響。

不幸的是，組織似乎不僅低估了開源依賴中的AI api的風(fēng)險(xiǎn)，而且低估了一般的安全敏感api的風(fēng)險(xiǎn)。

報(bào)告稱，超過一半(55%)的應(yīng)用程序在其代碼庫(kù)中調(diào)用了安全敏感的api，但當(dāng)包含依賴項(xiàng)時(shí)，這一比例上升到95%。

Endor Labs還警告說，像ChatGPT這樣的大型語(yǔ)言模型(LLM)技術(shù)在評(píng)估可疑代碼片段的惡意軟件潛力方面表現(xiàn)不佳。它發(fā)現(xiàn)OpenAI GPT 3.5的準(zhǔn)確率僅為3.4%，而Vertex AI text-bison的準(zhǔn)確率略高，為7.9%。

報(bào)告指出：“這兩種模型都產(chǎn)生了大量的誤報(bào)，這將需要人工審查工作，并阻止自動(dòng)通知到各自的包存儲(chǔ)庫(kù)以觸發(fā)包刪除。盡管如此，模式似乎確實(shí)在改進(jìn)。這些發(fā)現(xiàn)說明了在安全敏感的用例中使用法學(xué)碩士的困難。它們當(dāng)然可以幫助手動(dòng)審查員，但即使評(píng)估準(zhǔn)確率可以提高到95%甚至99%，也不足以實(shí)現(xiàn)自主決策。”

此外，該報(bào)告指出，開發(fā)人員可能會(huì)浪費(fèi)時(shí)間修復(fù)代碼中的漏洞，而這些漏洞甚至沒有在他們的應(yīng)用程序中使用。

它聲稱71%的典型Java應(yīng)用程序代碼來(lái)自開源組件，但應(yīng)用程序只使用了12%的導(dǎo)入代碼。

報(bào)告稱：“未使用代碼中的漏洞很少被利用，組織可以通過對(duì)整個(gè)應(yīng)用程序中哪些代碼可訪問的可靠洞察來(lái)消除或取消高達(dá)60%的修復(fù)工作的優(yōu)先級(jí)?！?/p>