得益于人工智能 (AI)、大數(shù)據(jù)等技術(shù)的應(yīng)用，金融機(jī)構(gòu)正在日趨智能化，不僅能夠提升業(yè)務(wù)處理效率和金融安全性，同時(shí)為客戶提供更加人性化的金融服務(wù)，讓客戶體會(huì)到金融服務(wù)的 “溫度”。例如，通過 AI 系統(tǒng)對(duì)于客戶的業(yè)務(wù)數(shù)據(jù)進(jìn)行智能化分析，金融機(jī)構(gòu)將能夠清晰地洞察客戶的偏好，讓客戶服務(wù)過程更加精準(zhǔn)。但同時(shí)，海量數(shù)據(jù)的分析與AI 應(yīng)用也將給基礎(chǔ)設(shè)施帶來巨大的壓力。

北京海鑫智圣技術(shù)有限公司（以下簡(jiǎn)稱：海鑫智圣）推出了集成 “海鑫智圣邊緣計(jì)算終端+云端Cell推理引擎”的云邊端一體化解決方案，并搭載了全新的第四代英特爾?至強(qiáng)? 可擴(kuò)展處理器。借助內(nèi)置的英特爾? 高級(jí)矩陣擴(kuò)展（英特爾? AMX）加速引擎，第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器能夠幫助海鑫智圣進(jìn)一步優(yōu)化端到端推理性能，提升 AI 平臺(tái)的整體算力和可擴(kuò)展性，滿足智慧金融在生物特征識(shí)別、智能 OCR 識(shí)別等領(lǐng)域的性能要求，加速智慧金融變革。

?

第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器提升 AI 推理性能

“人工智能是智慧金融系統(tǒng)構(gòu)建的核心技術(shù)支撐之一，通過采用第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器，我們得以在保證推理精度的前提下，大幅提升生物特征識(shí)別等 AI 模型的推理速度。我們還將與英特爾進(jìn)行持續(xù)合作，以云邊端一體化的金融 AI 應(yīng)用，推動(dòng)智慧金融系統(tǒng)的進(jìn)化，助力金融業(yè)務(wù)價(jià)值的升級(jí)。”?

孟凡軍

海鑫智圣總經(jīng)理

在使用第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器進(jìn)行推理并通過 OpenVINO? 工具套件進(jìn)行性能優(yōu)化的場(chǎng)景中，海鑫智圣一體化解決方案能夠支持金融機(jī)構(gòu)獲得強(qiáng)大的推理性能，同時(shí)增強(qiáng)基礎(chǔ)設(shè)施調(diào)度的靈活性，降低 TCO。為了驗(yàn)證第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器帶來的推理性能提升，海鑫智圣與英特爾在生物特征識(shí)別應(yīng)用中，進(jìn)行了聯(lián)合測(cè)試。測(cè)試系統(tǒng)配置如表 1 所示。
?

首先，雙方對(duì)比了在模型數(shù)據(jù)類型同為 FP32 時(shí)，生物特征識(shí)別模型在第三代/第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器上的推理性能差異。測(cè)試結(jié)果如圖 1 所示，第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器獲得了 1.58 倍的代際性能提升。

?

隨后，雙方在基于第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器的平臺(tái)上，采用英特爾? AMX 將模型從 FP32 轉(zhuǎn)化為 BF16，并測(cè)試了兩者的性能差異。測(cè)試數(shù)據(jù)如圖 2 顯示，優(yōu)化后可以實(shí)現(xiàn) 4.55 倍的性能提升。

?

方案收益

? 顯著的推理性能提升? ? ? ? ?? ????

相較于第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器，內(nèi)置英特爾? AMX加速引擎的第四代英特爾?至強(qiáng)?可擴(kuò)展處理器能夠大幅提升推理性能，加快 AI 應(yīng)用響應(yīng)速度，降低性能壓力。

? 較低的精度損失? ? ? ? ? ? ? ??? ???

測(cè)試數(shù)據(jù)顯示，通過將數(shù)據(jù)類型從 FP32 轉(zhuǎn)化為 BF16，英特爾? AMX 在大幅提升性能的同時(shí)，精度損失僅為0.08%，完全可以滿足實(shí)際應(yīng)用所需。

? 實(shí)現(xiàn)算力在云邊端的合理布局???

通過算力在云邊端的分配，降低了云端的數(shù)據(jù)處理以及 AI 推理壓力，縮短了處理時(shí)間，有效提升了數(shù)據(jù)處理效率。

? 快速適配各種應(yīng)用場(chǎng)景? ? ? ? ? ??

解決深度學(xué)習(xí)框架不統(tǒng)一、生產(chǎn)環(huán)境不穩(wěn)定等問題，提升人工智能平臺(tái)整體算力和可擴(kuò)展性能，滿足更多場(chǎng)景所需。

? 支持邊緣端高效 AI 推理? ? ? ???

即使在輕量化的邊緣設(shè)備側(cè)，也具備較高的 AI 推理性能，提升 AI 應(yīng)用在邊緣端的運(yùn)行效率，降低數(shù)據(jù)處理延遲。

目前，該方案已經(jīng)在金融機(jī)構(gòu)的多個(gè)場(chǎng)景得到應(yīng)用。例如在銀行開戶驗(yàn)證/支付等場(chǎng)景中，銀行能夠通過生物特征識(shí)別技術(shù)驗(yàn)證是否實(shí)現(xiàn)了 “人證合一”，有效解決在線無人值守環(huán)境中的各類假體攻擊，構(gòu)建安全、高效的金融服務(wù)體系，減少流程時(shí)間以提高轉(zhuǎn)化率。

如果您想要了解該解決方案的詳細(xì)信息，請(qǐng)關(guān)注英特爾開發(fā)人員專區(qū)微信公眾號(hào)在后臺(tái)回復(fù)“HisignAI”，即可獲取相關(guān)資料。