英特爾SGX為聯(lián)邦學(xué)習(xí)保駕護(hù)航

時(shí)間：2022-03-14 18:12:02 | 來源：行業(yè)動態(tài)

時(shí)間：2022-03-14 18:12:02 來源：行業(yè)動態(tài)

不管是AI安全還是數(shù)據(jù)安全，安全保護(hù)都是整個(gè)邏輯中非常重要的一環(huán)。在聯(lián)邦學(xué)習(xí)和訓(xùn)練的過程中，就需要傳輸交換參數(shù)，傳統(tǒng)方法是使用加密算法中進(jìn)行非正常加密，從而保證數(shù)據(jù)傳輸過程中不被外部進(jìn)行惡意攻擊。

通過硬件增強(qiáng)型安全技術(shù)的支持，在特定硬件中建立一個(gè)可信執(zhí)行環(huán)境（Trusted Execution Environment，TEE），使外界無法觸達(dá)和攻擊敏感的數(shù)據(jù)和應(yīng)用，是應(yīng)對這一問題的更為有效的手段。

王健宗博士表示，平安科技聯(lián)邦學(xué)習(xí)團(tuán)隊(duì)基于這一理念打造并構(gòu)建了全新的蜂巢聯(lián)邦學(xué)習(xí)平臺，為用戶提供數(shù)據(jù)隱私安全保護(hù)的一站式解決方案。在該平臺的構(gòu)建過程中，如何進(jìn)一步增強(qiáng)多源數(shù)據(jù)在其本地的安全性，如何為AI模型調(diào)優(yōu)的中間過程提供更可信的安全保障，以及如何有效地評估各數(shù)據(jù)源對于最終優(yōu)化結(jié)果的貢獻(xiàn)度，都是非常重要的隱私。為此，聯(lián)邦學(xué)習(xí)團(tuán)隊(duì)與英特爾一起，通過引入英特爾SGX技術(shù)，為以上問題提供了更優(yōu)的解決方案，這也是現(xiàn)在蜂巢聯(lián)邦學(xué)習(xí)平臺的優(yōu)勢之一。聯(lián)邦智能意味著什么？就是安全可信的智能，這是未來的趨勢。

在特定硬件的環(huán)境進(jìn)行計(jì)算，不管在算法層面或者硬件層面，平安科技的聯(lián)邦學(xué)習(xí)方案借助英特爾SGX技術(shù)做到了雙重加密的機(jī)制，保護(hù)代碼和數(shù)據(jù)機(jī)密性和完整性，有效阻斷外部惡意攻擊。還有通過內(nèi)存加密技術(shù)，保護(hù)程序狀態(tài)的安全，從根本上杜絕了數(shù)據(jù)隱私泄露的問題。 英特爾致力于打造可信計(jì)算數(shù)據(jù)分析的可信環(huán)境，而SGX技術(shù)可以實(shí)現(xiàn)可信執(zhí)行環(huán)境，正好符合目前聯(lián)邦學(xué)習(xí)的運(yùn)算需求。王健宗說。

聯(lián)邦學(xué)習(xí)更多是為了解決在數(shù)據(jù)不共享、隱私保護(hù)的前提下實(shí)現(xiàn)共同建模、共同分析的一個(gè)技術(shù)，如果沒有英特爾SGX技術(shù)的話，而是通過傳統(tǒng)的軟加密方式，比如在傳統(tǒng)的深度學(xué)習(xí)框架TensorFlow、PyTortch、Caffe、MxNet等上面改造，這樣帶來的一個(gè)問題是導(dǎo)致在信息處理傳輸中因?yàn)榧咏饷軙奶嗟臅r(shí)間。如果有SGX技術(shù)構(gòu)建的硬件可信平臺，就可以把接口封裝好，在信息傳遞加解密過程當(dāng)中更快更高效，加快迭代訓(xùn)練。

在平安科技的聯(lián)邦學(xué)習(xí)方案中，通過處理器指令，英特爾SGX技術(shù)可在聯(lián)邦學(xué)習(xí)的各節(jié)點(diǎn)中，創(chuàng)建更有助于確保數(shù)據(jù)安全的內(nèi)存飛地，用于中間參數(shù)的交互和傳輸，以杜絕內(nèi)外部攻擊，為多源數(shù)據(jù)環(huán)境下的聯(lián)邦學(xué)習(xí)實(shí)踐探索提供更為可靠的安全保障。在這一過程中，英特爾架構(gòu)處理器為飛地的構(gòu)建、加密通道的敷設(shè)以及中間參數(shù)的交互和聚合提供強(qiáng)大的算力支持。

王健宗博士表示，聯(lián)邦學(xué)習(xí)對于硬件的要求是數(shù)據(jù)在傳輸過程當(dāng)中能夠?qū)崿F(xiàn)實(shí)時(shí)的加解密，在分布式環(huán)境下實(shí)現(xiàn)高效聯(lián)合建模，這有賴于計(jì)算、存儲、網(wǎng)絡(luò)等。比如在網(wǎng)絡(luò)層，5G給聯(lián)邦學(xué)習(xí)提供了很好的機(jī)會。而在存儲層，因?yàn)樯婕暗酱罅康男?shù)據(jù)讀寫，海量IO并發(fā)，這也要求存儲架構(gòu)足夠強(qiáng)壯。英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存，性能優(yōu)化的英特爾傲騰固態(tài)盤，與基于QLC技術(shù)、成本優(yōu)化的英特爾3D NAND固態(tài)盤有機(jī)結(jié)合，能降低從系統(tǒng)存儲獲取數(shù)據(jù)的高延遲，促進(jìn)數(shù)據(jù)流動，提升數(shù)據(jù)的可處理性。

結(jié)合英特爾SGX技術(shù)的1＋N聯(lián)邦學(xué)習(xí)解決方案，可以更精確地評估各節(jié)點(diǎn)數(shù)據(jù)對于AI模型訓(xùn)練的貢獻(xiàn)度，方便用戶對方案進(jìn)行調(diào)整。在1＋N式方案中，當(dāng)有N個(gè)數(shù)據(jù)源時(shí)，可以先對所有節(jié)點(diǎn)進(jìn)行訓(xùn)練，得到全量的訓(xùn)練效果。而后再分別對除了待評估節(jié)點(diǎn)以外的N－1個(gè)節(jié)點(diǎn)進(jìn)行訓(xùn)練（例如評估節(jié)點(diǎn)#1時(shí)，對節(jié)點(diǎn)#2至#N進(jìn)行訓(xùn)練），在得到不同訓(xùn)練效果的模型后，系統(tǒng)可以計(jì)算出每個(gè)數(shù)據(jù)節(jié)點(diǎn)在聯(lián)邦學(xué)習(xí)中的貢獻(xiàn)系數(shù)，從而對各個(gè)數(shù)據(jù)節(jié)點(diǎn)在AI聯(lián)合訓(xùn)練中的貢獻(xiàn)度做出更為精確的評估，并據(jù)此進(jìn)行方案調(diào)整。

王健宗薄設(shè)計(jì)說，以上算法和調(diào)度，可能會對聯(lián)邦學(xué)習(xí)的性能有所影響，是否奏效還需要用實(shí)踐來予以驗(yàn)證。但如何進(jìn)一步利用英特爾技術(shù)所構(gòu)建的飛地，確實(shí)還有很大的空間等待探索和發(fā)掘。雙方共建聯(lián)邦生態(tài)，未來的合作空間非常大。我們本著開源的精神希望未來通過構(gòu)建聯(lián)邦智能，和以聯(lián)邦學(xué)習(xí)為基礎(chǔ)技術(shù)的深入探索，進(jìn)行落地應(yīng)用研究。相信構(gòu)建聯(lián)邦智能的生態(tài)是肯定可以實(shí)現(xiàn)的。

目前，平安科技聯(lián)邦學(xué)習(xí)團(tuán)隊(duì)正在利用聯(lián)邦學(xué)習(xí)方法，重點(diǎn)研發(fā)設(shè)計(jì)面向數(shù)據(jù)強(qiáng)監(jiān)管的金融業(yè)多態(tài)多任務(wù)學(xué)習(xí)模型，滿足銀行和金融機(jī)構(gòu)在風(fēng)險(xiǎn)評估、反洗錢、投顧、投研、信貸、保險(xiǎn)和監(jiān)管等眾多應(yīng)用場景中的需求，幫助用戶利用AI能力構(gòu)建更有效的風(fēng)控和營銷模型，有效識別信用卡盜刷、貸款逾期、金融欺詐等潛在金融風(fēng)險(xiǎn)，有效減少金融企業(yè)的經(jīng)營風(fēng)險(xiǎn)。同時(shí)，聯(lián)邦學(xué)習(xí)方法也能幫助用戶利用橫向數(shù)據(jù)實(shí)施用戶畫像，拓展銷售通道，優(yōu)化營銷策略，為企業(yè)銷售能力的提升提供一個(gè)強(qiáng)有力的智能化引擎。

聯(lián)邦學(xué)習(xí)的時(shí)代已經(jīng)到來。在未來，聯(lián)邦學(xué)習(xí)團(tuán)隊(duì)還將與英特爾進(jìn)一步開展技術(shù)合作，以更多、更先進(jìn)的技術(shù)驅(qū)動數(shù)據(jù)資源在聯(lián)邦學(xué)習(xí)中的安全運(yùn)轉(zhuǎn)和高效轉(zhuǎn)化，并與更多企業(yè)和機(jī)構(gòu)相互協(xié)作，打破數(shù)據(jù)壁壘，推動聯(lián)邦學(xué)習(xí)在各行各業(yè)中的快速發(fā)展和應(yīng)用。我們相信聯(lián)邦學(xué)習(xí)將重塑今天人工智能領(lǐng)域乃至整個(gè)計(jì)算機(jī)領(lǐng)域的生態(tài)。王健宗博士總結(jié)道。