第45屆國際信息安全頂會IEEE Symposium on Security and Privacy（IEEE S&P 2024）將于2024年5月在美國舊金山召開。網(wǎng)信院閆崢教授團隊的最新研究成果“FlowMur: A Stealthy and Practical Audio Backdoor Attack with Limited Knowledge”被該會議全文收錄，并將在大會作報告。

據(jù)悉，IEEE S&P又稱Oakland，與ACM CCS、USENIX Security、NDSS并列稱為安全領(lǐng)域的四大國際頂級學術(shù)會議，其近十年的平均錄用率約為13%，發(fā)表難度在四大頂會里最高，被中國計算機學會（CCF）認定為A類會議。該會議收錄的論文代表著相關(guān)研究領(lǐng)域的最高水平，在業(yè)界具有廣泛而深遠的影響。

該研究成果由西安電子科技大學的閆崢教授團隊和普渡大學的Elisa Bertino教授合作完成，閆崢教授的博士生蘭佳禾、博士生王杰、碩士生閆保辰為論文的前三作者，通訊作者為閆崢教授。

該論文聚焦語音識別安全，開創(chuàng)性地提出了首個僅需有限敵手知識、隱蔽且實用的語音后門攻擊方法FlowMur。FlowMur通過構(gòu)建輔助數(shù)據(jù)集和代理模型增強敵手知識。它充分考慮了語音的動態(tài)性以及環(huán)境噪聲的影響，將觸發(fā)器的生成形式化為一個優(yōu)化問題，提升了攻擊的實用性。此外，F(xiàn)lowMur采用了基于信噪比的自適應(yīng)數(shù)據(jù)投毒手段，實現(xiàn)了攻擊的隱蔽性。基于多個公開數(shù)據(jù)集和經(jīng)典語音識別AI模型的實驗結(jié)果表明，F(xiàn)lowMur在數(shù)字和物理場景下均展現(xiàn)出強大的攻擊性能，造成AI模型的失靈，并能繞過當前最先進的防御手段。用戶測試進一步證實了FlowMur的不易察覺性，因此其具有極強的危害性。

FlowMur攻擊流程圖

近年來，語音識別快速發(fā)展，已被廣泛應(yīng)用于智能語音助手、語音購物、聲紋認證等場景，極大地便利了人們的日常生活，但其安全性仍是一個懸而未決的問題。該論文的發(fā)表在一定程度上推動了語音識別系統(tǒng)安全的研究，有助于未來構(gòu)建更加安全的語音識別系統(tǒng)。同時，這種攻擊也可被用于驗證語音數(shù)據(jù)集和語音識別模型的所有權(quán)，進行審計和溯源。該論文向外界展示了西安電子科技大學在人工智能安全領(lǐng)域研究的領(lǐng)先成果，標志其在該領(lǐng)域的研究得到了國際同行的高度認可。