重磅!沖量在線聯(lián)合海光信息發(fā)布高性能異構(gòu)可信AIGC一體機!

2023年05月18日,由海光產(chǎn)業(yè)生態(tài)合作組織(以下簡稱光合組織)主辦的“第二屆海光安全技術高峰論壇”在上海順利召開。
本屆論壇以“凝心聚力 全芯超越”為主題,匯聚眾多業(yè)內(nèi)人士及多家企業(yè)代表,共同探討可信計算、國密應用、隱私計算等一系列芯片安全技術領域的最新動態(tài)和未來發(fā)展趨勢。沖量在線作為海光芯片數(shù)據(jù)安全和人工智能領域的重要合作伙伴受邀參與此次大會。在主論壇上,光合組織舉行了海光安全生態(tài)產(chǎn)品發(fā)布儀式,沖量在線聯(lián)合海光信息打造的高性能異構(gòu)可信AIGC一體機正式發(fā)布!


在“隱私計算分論壇”上,由沖量在線合伙人、解決方案總經(jīng)理黃淼做了關于該產(chǎn)品的分享。


近年來,隨著人工智能技術的快速發(fā)展,AIGC已經(jīng)成為了數(shù)字創(chuàng)作領域的熱門話題,不僅對數(shù)字創(chuàng)作行業(yè)帶來了巨大的機遇和挑戰(zhàn),也為傳統(tǒng)行業(yè)創(chuàng)造了更多的可能性。

沖量在線聯(lián)合海光信息推出的高性能異構(gòu)可信AIGC一體機,在平臺架構(gòu)方面,底層基于海光系列芯片增強的虛擬化隔離能力和異構(gòu)可信算力,保障多方數(shù)據(jù)、算力、模型在交互過程中端到端的隱私性和安全性。
可信數(shù)據(jù)節(jié)點實現(xiàn)外部數(shù)據(jù)合規(guī)的接入平臺,同時結(jié)合數(shù)據(jù)水印、數(shù)據(jù)血緣等技術,對數(shù)據(jù)使用過程進行確權追蹤,為數(shù)據(jù)眾籌階段提供數(shù)據(jù)原料??尚潘懔?jié)點提供去中心化的算力共享市場,具備算力智能調(diào)度策略,為算力調(diào)度時提供最優(yōu)的資源支持方案。向上一層AIGC模型由平臺封裝成統(tǒng)一標準的推理實例,由平臺進行推理任務調(diào)度,通過云原生技術實現(xiàn)跨平臺部署、監(jiān)控和調(diào)優(yōu),降低了安裝和部署推理服務的難度,增強了模型訓練任務的穩(wěn)定性,并提供模型的并行優(yōu)化,包括數(shù)據(jù)并行、流水線并行等,結(jié)合海光芯片的性能優(yōu)勢,在提供模型推理性能的同時,降低對顯存的消耗。
硬件層面,沖量在線聯(lián)合海光打造了業(yè)內(nèi)首批高性能異構(gòu)可信AIGC一體機,其內(nèi)置了文生圖、圖生圖、大規(guī)模對話機器人等AIGC模型,包括像Stable Diffusion、Bard、GPT、Make a video等等。
在可信算力方面,支持8張雙寬的加速卡,同時平臺結(jié)合隱私計算技術,對算力資源提供可信認證服務,保證數(shù)據(jù)和算法運行在可信算力中,由多臺機器組成AIGC訓練和推理網(wǎng)絡,采用分布式組網(wǎng)的方式,為企業(yè)提供一站式AIGC訓練和推理服務。
海光作為沖量長久以來的生態(tài)合作伙伴,雙方共同打造的聯(lián)合產(chǎn)品完成多次迭代,已聯(lián)合推出國產(chǎn)化隱私計算一體機、高性能異構(gòu)隱私計算一體機。