北京沖量在線科技有限公司聯(lián)合創(chuàng)始人&CTO陳浩棟介紹了TEE可信執(zhí)行環(huán)境的技術(shù)概況、結(jié)合TEE的軟硬件結(jié)合隱私計算方案以及TEE服務(wù)端的應(yīng)用案例。沖量在線使用TEE的軟硬件提供數(shù)據(jù)安全可信高效流通的基礎(chǔ)能力，針對多方聯(lián)合隱私計算和機(jī)密計算的不同場景需求進(jìn)行平臺化加強(qiáng)。TEE隱私計算一體機(jī)產(chǎn)品集數(shù)據(jù)計算、數(shù)據(jù)交易功能于一體，提供最優(yōu)的硬件性能調(diào)配，內(nèi)置加速芯片與安全啟動芯片，已在應(yīng)用中體現(xiàn)出豐富的場景適用性。在機(jī)密計算場景中，沖量在線推出了機(jī)密計算SaaS解決方案，并與國產(chǎn)化GPU廠商合作研發(fā)了TEE GPU的安全擴(kuò)展功能，能夠?qū)PU端TEE機(jī)密性擴(kuò)展到GPU設(shè)備，支持深度學(xué)習(xí)模型的升級運(yùn)行。陳浩棟認(rèn)為TEE為主的硬件安全將會逐步覆蓋到數(shù)據(jù)流通中完整的計算鏈路中，各類計算芯片都將會統(tǒng)一度量和認(rèn)證的標(biāo)準(zhǔn)，為軟硬件結(jié)合的數(shù)據(jù)流通體系提供完整的硬件安全基礎(chǔ)。

附部分演講PPT：

PART 01：可信執(zhí)行環(huán)境TEE技術(shù)展望

隱私計算作為公認(rèn)解決數(shù)據(jù)流通安全問題而生的技術(shù)，其包含三種技術(shù)路徑：多方安全計算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境（TEE），其中可信執(zhí)行環(huán)境可以兼并隱私安全和性能。

?

在過去的幾年TEE進(jìn)入了加速發(fā)展時期，2022年英偉達(dá)提出了全球第一個異構(gòu)計算芯片GPGPU上的TEE功能，保證GPU的執(zhí)行過程可信機(jī)密。并且于同年下半年，微軟、谷歌等國際頭部計算機(jī)芯片廠商聯(lián)合AMD、英偉達(dá)等硬件廠商提出了Caliptra標(biāo)準(zhǔn)規(guī)范，旨在用開源芯片設(shè)計和規(guī)范標(biāo)準(zhǔn)化數(shù)據(jù)中心服務(wù)器里信任根的實現(xiàn)，把不同類型的芯片的度量方式和認(rèn)證接口做統(tǒng)一。

?

由此來看，未來的2-3年是服務(wù)器端TEE快速普及的時間節(jié)點，同時可信執(zhí)行環(huán)境會逐步覆蓋到各種具備計算能力的芯片上，不僅僅局限于CPU。

?

PART 02：TEE安全特性與實現(xiàn)

TEE具備三個最基本、最通用的安全特性，第一是數(shù)據(jù)機(jī)密性，也就是在TEE當(dāng)中運(yùn)算的數(shù)據(jù)無法被查看，不會泄露；第二是數(shù)據(jù)的完整性，可以保證數(shù)據(jù)在計算過程當(dāng)中不會被篡改；第三是保證代碼的完整性，即在TEE當(dāng)中執(zhí)行的代碼和預(yù)期的一致，第一個特性主要是通過TEE的隔離機(jī)制來保證的，第二和第三種特性是通過度量和背書證明對外保證。

PART 03：TEE軟硬件結(jié)合隱私計算方案

?

在數(shù)據(jù)流通系統(tǒng)中，一共有三類流通要素需要撮合，包括數(shù)據(jù)、算法和計算算力。由于各個要素之間彼此并不一定在同一個機(jī)構(gòu)域內(nèi)，所以跨域的可信和隱私性保護(hù)是各要素能夠流通起來的前提。在目前的方案中，一是通過數(shù)據(jù)水印、結(jié)合區(qū)塊鏈的數(shù)據(jù)確權(quán)、合約定價以及數(shù)據(jù)NFT技術(shù)來保證數(shù)據(jù)的可溯源可驗證能力。二是通過隱私計算基于密碼學(xué)協(xié)議的算法以及基于TEE的計算程序可驗證度量保證算法的安全性和可驗證性。而計算算力上，沖量在線基于可信執(zhí)行環(huán)境可以在智算、超算、私有云和混合云上提供可驗證的可信執(zhí)行環(huán)境。這些可信技術(shù)與區(qū)塊鏈去中心化技術(shù)進(jìn)一步結(jié)合就可以派生出像可信分布式身份DID、數(shù)據(jù)確權(quán)、可驗證計算、數(shù)據(jù)血緣等等數(shù)據(jù)流通當(dāng)中必備的可信溯源能力。

?

整套系統(tǒng)裁剪后則可以服務(wù)兩大場景，經(jīng)典的多方聯(lián)合隱私計算場景與機(jī)密計算場景。包括聯(lián)合統(tǒng)計、聯(lián)合建模、數(shù)據(jù)交易、AI SaaS以及數(shù)據(jù)密態(tài)沙箱等數(shù)據(jù)流通中常見的應(yīng)用需求。

?

在經(jīng)典隱私計算結(jié)合多方數(shù)據(jù)的場景下，沖量在實際落地項目及產(chǎn)品快速迭代的過程中逐漸打磨出了三大基本功。首先是數(shù)據(jù)平臺生態(tài)的能力，即具備對接到不同客戶的數(shù)據(jù)底座能力，包括與不同種類數(shù)據(jù)源、數(shù)據(jù)平臺的對接，遵守各行業(yè)客戶大數(shù)據(jù)部的數(shù)據(jù)治理標(biāo)準(zhǔn)規(guī)范流程等。其次是硬件層面，沖量可以將不同種類的TEE硬件在底層打平，抽象成一套密態(tài)計算資源，靈活調(diào)用。最后圍繞算法本身，能夠支持高性能的分布式能力，比如Spark、機(jī)器學(xué)習(xí)框架等；以及現(xiàn)有算法工程師自研的算法也可以快速的遷移到平臺上。

?

沖量一站式平臺包括數(shù)據(jù)互聯(lián)平臺，即隱私計算平臺，解決數(shù)據(jù)使用的安全問題；數(shù)據(jù)交易平臺，提供關(guān)于數(shù)據(jù)確權(quán)，血緣跟蹤，交易管理等相關(guān)能力；AI開放平臺，提供AI深度學(xué)習(xí)的SaaS化一站式解決方案能力。

以上平臺都是在TEE的硬件基礎(chǔ)上來搭建，為保證交付形態(tài)的友好性，除了支持軟件私有化部署外，沖量也推出了一體機(jī)產(chǎn)品，把軟硬件打包共同交付，將軟硬件資源性能調(diào)配到最優(yōu)，同時可以把TEE的安全能力擴(kuò)展到更多的異構(gòu)加速設(shè)備上面，通過TPM/TPCM等來統(tǒng)一整個計算平臺硬件信任根。

?

目前，沖量在線已經(jīng)與國內(nèi)全部主流芯片廠商達(dá)成合作，包括X86、ARM、自主架構(gòu)，既滿足信任根和信任鏈完全國產(chǎn)化、自主可控的要求，同時也可以保證產(chǎn)品開箱即用，迅速投入到生產(chǎn)環(huán)境當(dāng)中。

?

在機(jī)密計算的軟硬件結(jié)合的實踐方面，目前仍存在瓶頸點，即基于TEE的計算環(huán)境對于上層應(yīng)用，如編程框架、基礎(chǔ)庫、硬件的異構(gòu)環(huán)境等均存在局限性。沖量在線打造的機(jī)密計算SaaS平臺，解決了和傳統(tǒng)應(yīng)用，如工具鏈，依賴庫，客戶管理平臺的銜接問題，另一方面用平臺化的思路去提供在線服務(wù)，降低應(yīng)用程序本身改造的代價。

?

由于應(yīng)用程序方面存在敏感數(shù)據(jù)的輸入，模塊之間的傳輸，需要按照機(jī)密計算的要求去改造，我們抽象出來三個復(fù)用性最高的基本組件，包括算力管理子系統(tǒng)，把TEE硬件抽象成私有云，可以將計算資源進(jìn)行靈活調(diào)度；算法管理子系統(tǒng)，提供適配TEE的算法開發(fā)框架；安全管理子系統(tǒng)，提供在線的接口層服務(wù)，具備安全擴(kuò)展的特性，例如遠(yuǎn)程認(rèn)證，度量、挑戰(zhàn)、以及數(shù)據(jù)封存的IO接口。

?

軟件層面，機(jī)密計算SaaS平臺納管了兩類應(yīng)用，包括在線的機(jī)密計算任務(wù)，以及離線的批處理任務(wù)。SaaS平臺可以集成到信算云等管理平臺，也可以獨立的提供服務(wù)。

?

硬件層面，融合異構(gòu)加速硬件的可信執(zhí)行環(huán)境，核心問題是如何把CPU端的TEE能力擴(kuò)展到GPU上。當(dāng)前把CPU端TEE特性擴(kuò)展到GPU端的實現(xiàn)思路主要有直通模式和代理模式兩類。直通模式要求GPU內(nèi)核態(tài)調(diào)用可以在TEE中實現(xiàn)，代理模式是通過調(diào)用轉(zhuǎn)發(fā)的形式在用戶態(tài)完成數(shù)據(jù)密態(tài)的設(shè)備通信。兩種方式都可以實現(xiàn)GPU度量和認(rèn)證、PCIe總線加密、顯存加密控制。沖量在線和國產(chǎn)GPU廠商在不同路徑上都進(jìn)行了原型驗證，并已經(jīng)針對生產(chǎn)環(huán)境的模型進(jìn)行過安全性和性能驗證，實現(xiàn)涉及包括對TEE-OS內(nèi)核、GPU驅(qū)動、GPU runtime的修改。目前的方案能夠?qū)?yīng)用層模型保持兼容友好性，且性能加速比與明文計算環(huán)境中GPU的加速比接近。當(dāng)GPU廠商進(jìn)一步將密碼計算邏輯硬件化后，性能優(yōu)勢有望進(jìn)一步釋放。

?

PART 04：TEE服務(wù)端應(yīng)用實踐

?

沖量基于TEE服務(wù)端典型軟硬件結(jié)合的應(yīng)用實踐主要有兩個。

第一個是基于TEE的數(shù)據(jù)機(jī)密計算沙箱，讓數(shù)據(jù)使用方直接可以使用線上原始的數(shù)據(jù)進(jìn)行回測，但同時保證數(shù)據(jù)的機(jī)密性。一方面要保證數(shù)據(jù)分析算法全部在沙箱中運(yùn)行，那另一方面數(shù)據(jù)管理方需要驗證機(jī)密計算的算法，是否和他報備的一致，繼而從數(shù)據(jù)湖里面把原始的，例如線上數(shù)據(jù)加密之后，放到機(jī)密計算沙箱里做，嚴(yán)格保證沒有數(shù)據(jù)落盤，可以通過TEE接口關(guān)閉實現(xiàn)。我們在運(yùn)行TEE計算容器之后，內(nèi)存里面的這些數(shù)據(jù)即使是加密狀態(tài)，也要在TEE當(dāng)中做銷毀，清理掉它的運(yùn)行環(huán)境，所以最后的結(jié)果就是數(shù)據(jù)使用方只能獲取這個回測的結(jié)果，一般這種就是模型在線上數(shù)據(jù)集上的一個評價指標(biāo)，所有計算過程當(dāng)中，數(shù)據(jù)都是通過TEE直接推到審計平臺里面，比如檢索的語句、數(shù)據(jù)字典、數(shù)據(jù)哈希、算法的度量值、運(yùn)行的結(jié)果等都會存證到審計平臺上。

?

另一個是關(guān)于機(jī)密計算在金融場景中的應(yīng)用。在開放銀行的背景下，AI SaaS服務(wù)如何通過應(yīng)用TEE技術(shù)手段解決業(yè)務(wù)痛點，即在AI場景中，模型提供方與服務(wù)使用方不互信的前提下同時保證推理特征與模型的機(jī)密性。機(jī)密計算可作為基礎(chǔ)框架，隱私計算平臺納管多個機(jī)密計算節(jié)點為工作節(jié)點；將諸如OCR算法、待推理數(shù)據(jù)（如合同、發(fā)票等）運(yùn)行在機(jī)密計算節(jié)點上，客戶的合同和發(fā)票等敏感數(shù)據(jù)不會被落盤和泄漏，實現(xiàn)數(shù)據(jù)方和模型方的互信。

硬件安全和密碼學(xué)安全同樣重要，是保證數(shù)據(jù)流通安全的基石，軟硬件結(jié)合一定是隱私計算必要的手段。下一個五年TEE為主的硬件安全理念預(yù)計會逐步覆蓋到數(shù)據(jù)流通完整計算鏈路的過程，所有參與到機(jī)密數(shù)據(jù)流通的芯片都將具備度量、認(rèn)證的基礎(chǔ)能力。這也是沖量在線未來的努力方向。