AI智能體專區(qū)
立即體驗(yàn)恒腦3.0 
智能化安全服務(wù)
安全托管服務(wù)
偵測服務(wù)
保護(hù)檢測服務(wù)
監(jiān)控分析服務(wù)
應(yīng)急服務(wù)
運(yùn)營管理服務(wù)
公司
上榜國際頂級學(xué)術(shù)期刊，安恒信息聯(lián)邦學(xué)習(xí)領(lǐng)航科技創(chuàng)新
近日，由安恒信息博士后工作站的劉恬博士主導(dǎo)的針對聯(lián)邦學(xué)習(xí)的安全攻擊研究“FacilitatingEarly-Stage Backdoor Attacks in Federated Learning with Whole PopulationDistribution Inference”，被物聯(lián)網(wǎng)領(lǐng)域國際頂級學(xué)術(shù)期刊《IEEE Internet of ThingsJournal》收錄并在線發(fā)表。
IEEE Internet of Things Journal（簡稱IoTJ）是國際電氣和電子工程師協(xié)會(huì)（IEEE）于2014年創(chuàng)建的物聯(lián)網(wǎng)領(lǐng)域的頂級期刊。該期刊最新的影響因子高達(dá)10.238，是SCI檢索期刊，同時(shí)也是中科院一區(qū)Top期刊以及JCR一區(qū)期刊。該研究的第一作者是安恒信息博士后工作站的劉恬博士，其第一完成單位為之江實(shí)驗(yàn)室和安恒信息。
1
研究背景
隨著聯(lián)邦學(xué)習(xí)在各個(gè)領(lǐng)域的普及，其安全性變得愈發(fā)重要。聯(lián)邦學(xué)習(xí)涉及多個(gè)參與方共同訓(xùn)練模型。由于無法驗(yàn)證參與方上傳的模型的合法性，可能會(huì)遭受來自惡意參與方的后門攻擊，即惡意參與方對訓(xùn)練數(shù)據(jù)進(jìn)行投毒，目的是使聯(lián)邦模型對于帶有特定“后門”的數(shù)據(jù)錯(cuò)誤分類。在實(shí)際場景中，多次注入的后門攻擊可以取得較好的攻擊效果，然而單次后門攻擊在現(xiàn)實(shí)場景中的攻擊效果有限。
2
研究內(nèi)容
該研究首先分析了單次后門攻擊受限的原因。后門攻擊通過對聯(lián)邦學(xué)習(xí)全局模型進(jìn)行替換以達(dá)到攻擊目的。由于在聯(lián)邦學(xué)習(xí)模型聚合時(shí)，正常模型參數(shù)起到了稀釋惡意攻擊參數(shù)的作用，因此單次后門攻擊很難達(dá)到理想的攻擊效果。研究發(fā)現(xiàn)，通過促進(jìn)聯(lián)邦學(xué)習(xí)全局模型的收斂，可以降低這種稀釋作用，從而提高后門攻擊的成功率。
接著，研究提出了一個(gè)兩階段的后門攻擊算法。在第一階段（準(zhǔn)備階段），攻擊者發(fā)起對全局?jǐn)?shù)據(jù)分布的推理攻擊，通過使本地?cái)?shù)據(jù)分布與全局?jǐn)?shù)據(jù)分布對齊，促進(jìn)全局模型的收斂。在第二階段（攻擊階段），攻擊者發(fā)起常規(guī)的后門攻擊。該攻擊通過向本地?cái)?shù)據(jù)添加“后門”并翻轉(zhuǎn)數(shù)據(jù)標(biāo)簽，將在注入數(shù)據(jù)上訓(xùn)練的模型發(fā)送到中心服務(wù)器。
兩階段后門攻擊實(shí)施流程
最后，通過對提出的攻擊模式進(jìn)行了測試，驗(yàn)證了該方法對于聯(lián)邦學(xué)習(xí)單次后門攻擊成功率以及留存時(shí)間的提升。同時(shí)，還分析了該攻擊的潛在防御手段。
部分實(shí)驗(yàn)結(jié)果
本研究對聯(lián)邦學(xué)習(xí)的安全性進(jìn)行了深入探究，在安恒信息的數(shù)據(jù)安全島聯(lián)邦學(xué)習(xí)平臺(tái)上已經(jīng)成功實(shí)現(xiàn)了產(chǎn)品轉(zhuǎn)化。通過對潛在的安全漏洞進(jìn)行提前修補(bǔ)，為實(shí)際應(yīng)用和推廣打下了堅(jiān)實(shí)的基礎(chǔ)。未來，安恒信息將深入探索聯(lián)邦學(xué)習(xí)的安全與隱私問題，提出安全高效的安全與隱私保護(hù)技術(shù)路徑，提升聯(lián)邦學(xué)習(xí)在實(shí)際應(yīng)用中的可靠性和穩(wěn)定性，為數(shù)據(jù)安全保駕護(hù)航。
相關(guān)推薦
- 發(fā)布兩款產(chǎn)品！安恒信息亮相“第二屆海光安全技術(shù)高峰論壇”
- 數(shù)據(jù)安全與數(shù)據(jù)要素治理研討會(huì)在安恒信息舉行
- 官宣｜賽事數(shù)字資產(chǎn)守門人·安恒EDR大運(yùn)會(huì)專版發(fā)布
- 安恒信息與電子科大網(wǎng)絡(luò)空間安全研究院達(dá)成戰(zhàn)略合作
- 因大運(yùn)結(jié)緣 以城市共生｜成都大運(yùn)會(huì)官方贊助商安恒信息升級發(fā)布會(huì)暨西部網(wǎng)絡(luò)安全總部啟動(dòng)儀式成功舉辦
- 大運(yùn)會(huì)網(wǎng)絡(luò)安全衛(wèi)士｜500名“全球網(wǎng)絡(luò)安全志愿者”獲聘任
- 案例入選！安恒信息出席2023中國數(shù)實(shí)融合50人論壇暨年度報(bào)告發(fā)布會(huì)
