《電子技術(shù)應(yīng)用》
您所在的位置：首頁 > 通信與網(wǎng)絡(luò) > 設(shè)計(jì)應(yīng)用 > 一種隱私保護(hù)的聯(lián)邦學(xué)習(xí)框架
一種隱私保護(hù)的聯(lián)邦學(xué)習(xí)框架
2022年電子技術(shù)應(yīng)用第5期
楊東寧1，2，謝瀟睿1，吉志坤3，姬維維3
1.云南電網(wǎng)有限責(zé)任公司 信息中心，云南 昆明650011；2.西南林業(yè)大學(xué) 大數(shù)據(jù)與智能工程學(xué)院，云南 昆明650224； 3.云南云電同方科技有限公司，云南 昆明650220
摘要： 大數(shù)據(jù)時(shí)代，數(shù)據(jù)安全性和隱私性受到越來越多的關(guān)注和重視。聯(lián)邦學(xué)習(xí)被視為是一種隱私保護(hù)的可行技術(shù)，允許從去中心化的數(shù)據(jù)中訓(xùn)練深度模型。針對電力投資系統(tǒng)中各部門因擔(dān)心數(shù)據(jù)隱私信息泄露而帶來的數(shù)據(jù)孤島和隱私保護(hù)問題，提出了一種隱私保護(hù)的聯(lián)邦學(xué)習(xí)框架，允許各部門自有數(shù)據(jù)在不出本地的情況下，聯(lián)合訓(xùn)練模型。首先，提出了聯(lián)邦學(xué)習(xí)的架構(gòu)，支持分布式地訓(xùn)練模型；其次，引入同態(tài)加密技術(shù)，提出了隱私保護(hù)的聯(lián)邦平均學(xué)習(xí)流程，在數(shù)據(jù)隱私保護(hù)的情況下，實(shí)現(xiàn)聯(lián)合訓(xùn)練模型；最后，實(shí)驗(yàn)結(jié)果表明，該框架具有較好的收斂性，而且聯(lián)合訓(xùn)練得到的模型具有較好的精度。
中圖分類號： TN711.1；TP311
文獻(xiàn)標(biāo)識碼： A
DOI：10.16157/j.issn.0258-7998.211828
中文引用格式： 楊東寧，謝瀟睿，吉志坤，等. 一種隱私保護(hù)的聯(lián)邦學(xué)習(xí)框架[J].電子技術(shù)應(yīng)用，2022，48(5)：94-97，103.
英文引用格式： Yang Dongning，Xie Xiaorui，Ji Zhikun，et al. A privacy-preserving federated learning framework[J]. Application of Electronic Technique，2022，48(5)：94-97，103.
A privacy-preserving federated learning framework
Yang Dongning1，2，Xie Xiaorui1，Ji Zhikun3，Ji Weiwei3
1.Information Center，Yunnan Power Grid Co.，Ltd.，Kunming 650011，China； 2.School of Big Data and Intelligent Engineering，Southwest Forestry University，Kunming 650224，China； 3.Yunnan Yundian Tongfang Technology Co.，Ltd.，Kunming 650220，China
Abstract： In the era of big data, more and more attention has been paid to data security and privacy. Federated learning is regarded as a promising privacy-preserving technology, which allows training a deep model from decentralized data. To solve the problem of isolated data island and privacy protection caused by the fear of data privacy information leakage in the power investment system，this paper proposes a privacy-preserving federal learning framework, which allows departments to jointly train the model without releasing their local data. Firstly, a federated learning architecture is proposed to support distributed training model. Secondly, homomorphic encryption technology is introduced and a federal average learning process is proposed to realize the joint training model while the privacy of data are protected. Finally, the experimental results show that the framework has good convergence and the joint training model has good accuracy.
Key words : data privacy；federated learning；deep learning；homomorphic encryption；convolutional neural network

0 引言

    大數(shù)據(jù)時(shí)代，數(shù)據(jù)的安全性和隱私性受到了越來越多的重視和關(guān)注[1]。歐盟及我國都分別相繼通過了《一般數(shù)據(jù)法案》《歐洲數(shù)據(jù)保護(hù)通用條例》《中華人民共和國網(wǎng)絡(luò)安全法》等相關(guān)法案，以保護(hù)數(shù)據(jù)的安全和隱私。

    南方電網(wǎng)公司“十四五”數(shù)字化規(guī)劃明確提出：電力智慧投資將以項(xiàng)目儲備庫為基礎(chǔ)，通過輸入約束條件和投資分配參數(shù)，并結(jié)合規(guī)劃部門的配網(wǎng)規(guī)劃數(shù)據(jù)、基建部門的基建結(jié)算數(shù)據(jù)和財(cái)務(wù)部門的財(cái)務(wù)數(shù)據(jù)，運(yùn)用機(jī)器學(xué)習(xí)訓(xùn)練生成的投資預(yù)測模型，自動(dòng)生成投資計(jì)劃項(xiàng)目及費(fèi)用估算建議。但是，目前的電力投資系統(tǒng)依賴集中式的方式訓(xùn)練模型，要求訓(xùn)練涉及的多方數(shù)據(jù)和訓(xùn)練過程必須在數(shù)據(jù)中心。在此過程中，各部門自有數(shù)據(jù)中的隱私信息可能會(huì)被泄露。此外，各部門出于數(shù)據(jù)安全和隱私保護(hù)的需求，不可能將自有數(shù)據(jù)上傳到數(shù)據(jù)中心。因此，如何在確保各方數(shù)據(jù)安全和隱私的情況下打破數(shù)據(jù)孤島、共同訓(xùn)練模型，成為了急需解決的挑戰(zhàn)。

    聯(lián)邦學(xué)習(xí)使得機(jī)器學(xué)習(xí)或深度學(xué)習(xí)算法能從不同組織或部門的大量數(shù)據(jù)中獲得更好的經(jīng)驗(yàn)[2]。這種技術(shù)允許多個(gè)組織或部門在數(shù)據(jù)不直接共享的情況下協(xié)作完成模型的聯(lián)合訓(xùn)練[3]。具體來講，各組織或部門的私有自有數(shù)據(jù)可以不離開本地，通過本地模型參數(shù)的更新和全局模型參數(shù)的聚合，在確保各自數(shù)據(jù)隱私性和安全性的情況下，聯(lián)合訓(xùn)練一個(gè)共享的全局模型。因此，聯(lián)邦學(xué)習(xí)被視為解決數(shù)據(jù)孤島和打破數(shù)據(jù)壁壘的有效可行技術(shù)[4]。




本文詳細(xì)內(nèi)容請下載：http://theprogrammingfactory.com/resource/share/2000004285。




作者信息：

楊東寧1，2，謝瀟睿1，吉志坤3，姬維維3

(1.云南電網(wǎng)有限責(zé)任公司 信息中心，云南 昆明650011；2.西南林業(yè)大學(xué) 大數(shù)據(jù)與智能工程學(xué)院，云南 昆明650224；

3.云南云電同方科技有限公司，云南 昆明650220)




wd.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。