解密 AI 客服;在不同硬件設(shè)備上運(yùn)行大型語言模型的可能性

?? AI新聞
?? 微軟必應(yīng)首席執(zhí)行官稱必應(yīng)聊天優(yōu)于OpenAI的GPT-4,但成本更高
摘要:微軟必應(yīng)的首席執(zhí)行官米哈伊爾?帕拉欣表示,必應(yīng)聊天表現(xiàn)優(yōu)于OpenAI的GPT-4,但使用了更高成本的檢索增強(qiáng)推理技術(shù)。必應(yīng)聊天基于GPT-4模型,結(jié)合了檢索增強(qiáng)推理技術(shù),能生成更準(zhǔn)確、相關(guān)、流暢和連貫的文本。然而,檢索增強(qiáng)推理技術(shù)需要更多計(jì)算資源和時(shí)間,并可能帶來不準(zhǔn)確、不相關(guān)的信息,同時(shí)也會(huì)引發(fā)版權(quán)和隱私問題。微軟表示正在積極監(jiān)測用戶反饋并計(jì)劃改進(jìn)必應(yīng)聊天系統(tǒng)。
?? 微軟承認(rèn)Edge瀏覽器內(nèi)的人工智能助手性能下降
摘要:微軟承認(rèn)Edge瀏覽器內(nèi)置的人工智能助手Bing Chat的性能下降,用戶反映其回避問題或無法解決查詢。微軟官方表示正在積極監(jiān)測用戶反饋,并計(jì)劃在不久的將來改善該問題。許多用戶在Reddit上分享了他們的體驗(yàn),從創(chuàng)作工具的表現(xiàn)不佳到無法回答問題。微軟發(fā)言人確認(rèn)將改善用戶體驗(yàn),并隨著時(shí)間的推移進(jìn)一步提升Bing Chat的性能。
?? OpenAI測試GPT-4內(nèi)容審核功能
摘要:OpenAI的人工智能初創(chuàng)公司正在測試GPT-4的內(nèi)容審核功能,允許用戶創(chuàng)建自己的人工智能輔助審核系統(tǒng)。該功能有助于減輕人類審核員的負(fù)擔(dān),提供更積極的數(shù)字平臺(tái)未來愿景。GPT-4具有標(biāo)簽一致、反饋循環(huán)更快等優(yōu)點(diǎn)。
?? 阿里云與中國中醫(yī)科學(xué)院合作推動(dòng)中醫(yī)藥行業(yè)數(shù)智化
摘要:阿里云近日與中國中醫(yī)科學(xué)院在北京簽署合作協(xié)議,將共同啟動(dòng)數(shù)智中醫(yī)創(chuàng)新聯(lián)合實(shí)驗(yàn)室,推動(dòng)中醫(yī)藥行業(yè)的數(shù)字化發(fā)展。雙方將共同打造中醫(yī)藥行業(yè)大模型,并搭建數(shù)字化云服務(wù)平臺(tái),提高中醫(yī)藥科研效率,為中醫(yī)藥創(chuàng)新提供資源支撐。此舉對(duì)中醫(yī)藥產(chǎn)業(yè)的發(fā)展具有重要意義,也是當(dāng)前數(shù)字化浪潮下的一項(xiàng)重大合作。
?? 訊飛星火發(fā)布V2.0代碼能力和多模態(tài)能力提升,目標(biāo)明年實(shí)現(xiàn)對(duì)標(biāo)GPT-4
摘要:科大訊飛在今日發(fā)布會(huì)上宣布訊飛星火大模型V2.0正式發(fā)布,重點(diǎn)提升代碼能力和多模態(tài)能力,并推出面向老師、學(xué)校、企業(yè)、開發(fā)者等更多元的應(yīng)用落地產(chǎn)品。據(jù)科大訊飛董事長劉慶峰介紹,V2.0基于Python和C++進(jìn)行代碼寫作能力已逼近ChatGPT,在認(rèn)知智能國家重點(diǎn)實(shí)驗(yàn)室構(gòu)建的代碼真實(shí)場景測試系統(tǒng)中各項(xiàng)能力已超過ChatGPT,并透露訊飛星火大模型真正要對(duì)標(biāo)的是GPT-4,將在明年上半年實(shí)現(xiàn)。
?? AI知識(shí)
???解密 AI 客服:LangChain+ChatGPT 打造智能客服新時(shí)代
大家好,我是 AI 研習(xí)者輕寒。最近一直在研究 LangChain,感覺受益良多。剛好最近發(fā)現(xiàn)我的小貓惠充公眾號(hào)有好多人在咨詢一些充值相關(guān)的問題,但總是沒時(shí)間去回復(fù),所以想著做一個(gè)客服。本教程將基于 LangChain 結(jié)合 ChatGPT 實(shí)現(xiàn)并部署 AI 客服。
???在不同硬件設(shè)備上運(yùn)行大型語言模型的可能性
文章探討了在智能手機(jī)、筆記本電腦甚至樹莓派等不同硬件設(shè)備上運(yùn)行大型語言模型的可能性。文章解釋關(guān)鍵因素是內(nèi)存帶寬,而不是昂貴的GPU。通過優(yōu)化代碼和量化權(quán)重,在不同硬件上運(yùn)行大型語言模型變得可行。文章提供了計(jì)算和方程來解釋大型語言模型的內(nèi)存需求和性能。它強(qiáng)調(diào)減少內(nèi)存需求的技術(shù),如量化的重要性??傮w而言,文章強(qiáng)調(diào)了在廣泛設(shè)備上運(yùn)行大型語言模型的潛力,以及內(nèi)存帶寬對(duì)推理性能的重要性。
更多AI工具,參考Github-AiBard123,國內(nèi)AiBard123