亞馬遜云科技公布多項戰(zhàn)略 生成式AI賦能數(shù)字創(chuàng)新
2023年6月28日,亞馬遜云科技中國峰會在上海浦東世博中心繼續(xù)舉行,圍繞“因構建 而可見”主題,亞馬遜云科技全球產品副總裁 Matt Wood、亞馬遜云科技大中華區(qū)產品部總經(jīng)理 陳曉建、全面闡述生成式AI將迎來新的機遇。
?如今生成式AI在搜索、創(chuàng)意、交互三大領域展現(xiàn)出廣闊的應用前景,面對算力需求井噴式的增長,陳曉建在峰會上表示亞馬遜云科技通過自研芯片方式為客戶提供更高性價比的服務,并且在算力、網(wǎng)絡、存儲等產品提供組合產品應對突發(fā)的算力需求,以簡化算力使用的方式來降低運維難度,滿足用戶多樣化的算力需求。
?目前全球智能化的轉型已經(jīng)成為一種全新的浪潮,其中大語言模型成為了熱度最高的焦段話題,如何將生成式AI與大語言模型的運營存在較高的技術門檻。
?亞馬遜云科技的Amazon Bedrock提供了眾多基礎的模型訪問,允許新用戶通過API訪問亞馬遜的基礎模型。用戶在Amazon Bedrock上可以自行拓展可靠、安全的亞馬遜云科技托管服務,自由訪問圖文、圖形等一系列的基礎模型。目前Amazon Bedrock已經(jīng)成為用戶使用、構建基礎模型和擴展生成式AI的極簡方案,降低了開發(fā)者的使用門檻。
?隨著生成式AI的廣泛運用,生成代碼以簡化、高效率的編碼的特點,逐漸受到開發(fā)者的青睞,在會上亞馬遜云科技發(fā)布了基于機器學習的Amazon CodeWhisperer服務,該服務主要為開發(fā)者提供代碼生成服務,進一步改善和提高生產力,目前支持包Java、JavaScript和Python共有15種不同的編程語言,未來將支持更多的編程語言加入該項目,極大提升用戶的編碼體驗,讓開發(fā)者享受編碼的自由。目前Amazon CodeWhisperer服務針對個人用戶完全免費,只需完成注冊,就能生成基礎版?zhèn)€人用的代碼。
Amazon CodeWhisperer不只使用開發(fā)者的注釋語句,還會自行查看可用信息,生成個性化、更相關、更可接受的響應,了解開發(fā)者的開發(fā)思路。亞馬遜云科技在該服務中提供了超過50種安全檢查,實時對代碼進行安全審核、向上溯源,提前排除問題隱患。
經(jīng)過測試對比,使用Amazon CodeWhisperer與未使用Amazon CodeWhisperer的開發(fā)者相比,任務完成速度快出57%,代碼的運行效率提高了27%,極大地提高了開發(fā)的時間成本和工作效率,對于開發(fā)者團隊的開發(fā)效率將是一個重大的改變。
數(shù)據(jù)對于生成式AI而言更是所有一切的起點,其根本在于數(shù)據(jù)。為此,亞馬遜云科技推出云原生數(shù)據(jù)戰(zhàn)略,以龐大的數(shù)據(jù)湖,幫助企業(yè)實現(xiàn)更高的效率的提升。
該項戰(zhàn)略通過提供合適的工具集、連接所有數(shù)據(jù)、端到端的數(shù)據(jù)治理為不同業(yè)務場景找到“理想”的數(shù)據(jù)庫,在系統(tǒng)、鍵值、文檔、內存、圖、時間序列、寬列和分類賬八大數(shù)據(jù)庫類型,為企業(yè)數(shù)據(jù)庫提供極致的性能。
經(jīng)過多年的戰(zhàn)略發(fā)展,亞馬遜云科技的分析服務已全面實現(xiàn)Serverless化,包括交互式查詢服務、大數(shù)據(jù)服務、實時分析服務、數(shù)據(jù)倉庫服務、數(shù)據(jù)集成服務商業(yè)智能服務以及運營分析服務,這些服務方便企業(yè)進行擴展,實現(xiàn)降低成本,以組合工具的形式讓用戶享受簡單易用的服務。
?對數(shù)據(jù)進行高度整合,亞馬遜云科技將所有的數(shù)據(jù)服務方面有非常深度的連接和整合,在不同地區(qū)實現(xiàn)快速連接和訪問,全新推出的Amazon Aurora服務,能夠與Amazon Redshift進行Zero-ETL集成,允許使用 Amazon Redshift對來自Aurora的PB級事務數(shù)據(jù)進行實時分析和機器學習,不必構建和維護復雜的數(shù)據(jù)管道來執(zhí)行提取、轉換和加載。
關于端到端的數(shù)據(jù)治理,亞馬遜以Amazon DataZone,數(shù)據(jù)管理為服務藍本,為所有數(shù)據(jù)制作目錄,不僅在亞馬遜云科技,所有的SaaS應用中都可以進行訪問和分享,加速數(shù)據(jù)的使用速度。在高速發(fā)展的情況下,利用數(shù)據(jù)是實現(xiàn)轉型的巨大機會。這些數(shù)據(jù)也將推動生成式AI的廣泛應用。
高品質的服務除了高品質的軟件服務外,同樣需要高性能硬件的助力,在過去十余年時間里,亞馬遜云科技在芯片領域持續(xù)投入,并針對算力緊缺問題,亞馬遜云科技也提供深入的基礎設施。會上,陳曉建回顧了亞馬遜的自研硬件之路,通過在硬件領域的持續(xù)投入,讓亞馬遜能夠應對算力需求的井噴式增長。
早在2013年,亞馬遜云科技就推出了云服務器虛擬化引擎 Amazon Nitro系統(tǒng),這也是亞馬遜云科技自主研發(fā)的第一款芯片。經(jīng)過十余年的迭代,在本次峰會上亞馬遜云科技推出了第五代Nitro V5芯片。和之前的芯片產品相比性能有了大幅度提升,擁有更快的轉發(fā)率和更低的延遲,每瓦的功耗有40%的提升,在數(shù)據(jù)防煩擾方面層面實現(xiàn)了網(wǎng)絡和存儲的硬件級隔離機制,完全隔斷數(shù)據(jù)和網(wǎng)絡通信,避免造成互相干擾。
在加密方面任何進出 Nitro的數(shù)據(jù)包都會進行硬件級別的加密,最大限度保證用戶數(shù)據(jù)通信的安全。
在機器學習領域,亞馬遜云科技認為,沒有專門針對機器學習優(yōu)化的GPU在未來將難以勝任機器學習的任務,為此,針對機器學習,亞馬遜云科技分別推出了訓練用芯片Amazon Trainium和推理芯Amazon Inferentia。
基于機器學習訓練芯片 Trainium在訓練吞吐率上單節(jié)點的吞吐率可以提升 1.2倍,而多節(jié)點集群的吞吐率可以提升 1.5倍,并且能夠降低1.8倍的單點成本和2.3倍的集群成本。
新一代的推理芯片Amazon Inferentia,基于通用 GPU的 EC2實例相比,帶來了70%成本的降低;2022年又推出了第二代推理芯片Inferentia2,進一步提升了 4倍吞吐量,延遲降低至10%,通過優(yōu)化,可部署更加復雜的大語言模型和Diffusion類模型。另外,Inferentia在設計的時候就考慮到去實現(xiàn)吞吐率和延遲的雙重優(yōu)化,以實現(xiàn)"魚與熊掌,兩者兼得 "。
亞馬遜云科技提供600多種不同的計算實例,從處理器、網(wǎng)絡和存儲等各種服務都能夠與計算進行很好的結合,以積木的方式搭建出一個豐富靈活的計算實例的資源,滿足多種不同算力的要求。
未來亞馬遜云科技將繼續(xù)推動云服務的全面Serverless化,從而開啟云服務的Serverless時代,讓用戶無須管理設施,也能運行任何程序和后代服務,幫助客戶減輕運維工作,更好的應對各種業(yè)務。