六尾至一尾中特生肖:對抗樣本的防御方法、裝置、系統及存儲介質制造方法及圖紙

技術編號:21185437 閱讀:41 留言:0更新日期:2019-05-22 16:04
本發明專利技術提供一種對抗樣本的防御方法、裝置、系統及存儲介質,所述方法包括:獲取待處理的原始數據;獲取用于表征所述原始數據特征的特征向量;將所述特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,獲取匹配結果,其中,所述對抗樣本表征將正常數據破壞后的數據;在所述匹配結果表征所述特征向量屬于所述對抗樣本的特征向量時,對所述原始數據進行處理,以防止所述原始數據輸入到識別系統。通過將待處理數據的特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,繼而能夠判斷待處理數據是否是對抗樣本,防止對抗樣本輸入到識別系統,以確保識別系統能正確處理輸入數據而不被干擾和破壞。

Defense methods, devices, systems and storage media against samples

572222一尾中特平 www.fbmtd.icu The invention provides a defense method, device, system and storage medium against samples, which includes: acquiring raw data to be processed; acquiring feature vectors used to characterize the characteristics of the original data; matching the feature vectors of the normal samples stored in advance with the feature vectors of the counterpart samples to obtain the matching results, in which the matching results are obtained. When the matching result indicates that the eigenvector belongs to the eigenvector of the countermeasure sample, the original data is processed to prevent the original data from being input into the recognition system. By matching the feature vectors of the data to be processed with the feature vectors of the normal samples stored in advance and the feature vectors of the counterpart samples, we can judge whether the data to be processed is the counterpart samples, and prevent the counterpart samples from being input into the recognition system, so as to ensure that the recognition system can correctly process the input data without interference and destruction.

【技術實現步驟摘要】
對抗樣本的防御方法、裝置、系統及存儲介質
本專利技術涉及安全
,具體而言,涉及一種對抗樣本的防御方法、裝置、系統及存儲介質。
技術介紹
對抗樣本是指正常樣本受到攻擊破壞后所生成的樣本,對抗樣本能欺騙人工智能系統,導致其判斷錯誤。例如,一段聽起來是“你好”語音,正常情況下語音識別系統會識別并輸出文字“你好”,若該語音為受到攻擊后的對抗樣本,雖然人們聽起來仍然是“你好”的語音,但語音識別系統會識別并輸出事先定向攻擊的文字“攻擊”(內容由攻擊者決定),繼而導致語音識別系統識別錯誤。又例如,一張A圖片輸入到圖像識別系統,若A圖片為受到攻擊破壞后的對抗樣本,那么圖像識別系統會將A圖片識別為B圖片,繼而導致圖像識別系統識別錯誤。隨著基于語音的交互控制系統、人臉識別系統以及圖像識別系統的流行,對抗樣本將成為巨大的威脅。例如,在播放一首歌曲時,若該歌曲為對抗樣本,那么語音識別系統可能會將該歌曲識別為主人下達的指令,并開始下載惡意程序;或者,在過安檢時,圖像識別系統將A人臉識別為與A人臉不同的B人臉。
技術實現思路
本專利技術實施例提供一種對抗樣本的防御方法、裝置、系統及存儲介質,以提高圖像/語音識別系統的安全性。第一方面,本專利技術實施例提供一種對抗樣本的防御方法,所述方法包括:獲取待處理的原始數據;獲取用于表征所述原始數據特征的特征向量;將所述特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,獲取匹配結果,其中,所述對抗樣本表征將正常數據破壞后的數據;在所述匹配結果表征所述特征向量屬于所述對抗樣本的特征向量時,對所述原始數據進行處理,以防止所述原始數據輸入到識別系統。通過將待處理數據的特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,繼而能夠判斷待處理數據是否是對抗樣本,防止對抗樣本輸入到圖像/語音識別系統,以確保圖像/語音識別系統能正確處理輸入數據而不被干擾和破壞?;詰諞環矯?,在一種可能的設計中,在所述原始數據為音頻數據時,獲取匹配結果之后,所述方法還包括:在所述匹配結果表征所述特征向量既不屬于所述正常樣本的特征向量或所述對抗樣本的特征向量時,對所述原始數據進行擾動,獲取第一數據;獲取所述第一數據的特征向量;判斷所述第一數據的特征向量是否與所述原始數據的特征向量相同;在為否時,對所述原始數據進行處理,以防止所述原始數據輸入語音識別系統。由于正常樣本具備一定的抗干擾性,對正常樣本進行干擾后,其特征向量不會發生改變,然而,對抗樣本不具備抗干擾性,對抗樣本經過干擾后,其特征向量會發生改變,因此,通過將干擾前后的數據的特征向量進行比較,繼而能夠快速的判定原始數據是否是對抗樣本,防止對抗樣本輸入到語音識別系統,以確保語音識別系統能正確處理輸入數據而不被干擾和破壞?;詰諞環矯?,在一種可能的設計中,對所述原始數據進行擾動,包括:利用噪聲信號對所述原始數據進行干擾;或對所述原始數據的時間幀進行隨機位移;或隨機截取所述原始數據中的數據;或對所述原始數據進行變形處理。通過該方式,有助于快速區分出對抗樣本和正常樣本?;詰諞環矯?,在一種可能的設計中,對所述原始數據進行處理,包括:在所述原始數據為被破壞后的異常數據時,對所述原始數據進行處理,以獲得與所述原始數據對應的正常數據。通過該方式,能夠確保圖像/語音識別系統能正確處理輸入數據而不被干擾和破壞?;詰諞環矯?,在一種可能的設計中,對所述原始數據進行處理,包括:對所述原始數據進行降噪處理;或隨機截取所述原始數據中的數據;或利用隨機信號對所述原始數據進行處理;對所述原始數據進行變形處理。通過破壞對抗樣本的對抗性特征,確保圖像/語音識別系統能正確處理輸入數據而不被干擾和破壞?;詰諞環矯?,在一種可能的設計中,在所述原始數據為圖像數據時,獲取用于表征所述原始數據特征的特征向量,所述方法包括:獲取所述原始數據的RGB數據矩陣。由于正常樣本的RGB數據矩陣和與該正常樣本對應的對抗樣本的RGB數據矩陣不同,因此,通過該方式,有助于準確的區分對抗樣本?;詰諞環矯?,在一種可能的設計中,在所述原始數據為音頻數據時,獲取用于表征所述原始數據特征的特征向量,所述方法包括:獲取所述原始數據的PCM數據矩陣。由于正常樣本的PCM數據矩陣和與該正常樣本對應的對抗樣本的PCM數據矩陣不同,因此,通過該方式,有助于準確的區分對抗樣本?;詰諞環矯?,在一種可能的設計中,在所述原始數據為音頻數據時,獲取用于表征所述原始數據特征的特征向量,所述方法包括:獲取所述原始數據的PCM數據矩陣;獲取所述PCM數據矩陣的梅爾倒譜系數矩陣。由于正常樣本具備一定的抗干擾性,對正常樣本進行干擾后,其梅爾倒譜系數矩陣不會發生變,然而,對抗樣本不具備抗干擾性,對抗樣本經過干擾后,其梅爾倒譜系數矩陣會發生改變,因此,通過將干擾前后的數據的梅爾倒譜系數矩陣進行比較,繼而能夠快速的判定原始數據是否是對抗樣本,防止對抗樣本輸入到語音識別系統,以確保語音識別系統能正確處理輸入數據而不被干擾和破壞。第二方面,本專利技術實施例提供一種對抗樣本的防御裝置,所述裝置包括:第一獲取單元,用于獲取待處理的原始數據;第二獲取單元,用于獲取用于表征所述原始數據特征的特征向量;匹配單元,用于將所述特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,獲取匹配結果,其中,所述對抗樣本表征將正常數據破壞后的數據;處理單元,用于在所述匹配結果表征所述特征向量屬于所述對抗樣本的特征向量時,對所述原始數據進行處理,以防止所述原始數據輸入到識別系統?;詰詼矯?,在一種可能的設計中,在所述原始數據為音頻數據時,所述裝置還包括:擾動單元,用于在所述匹配結果表征所述特征向量既不屬于所述正常樣本的特征向量或所述對抗樣本的特征向量時,對所述原始數據進行擾動,獲取第一數據;特征向量獲取單元,用于獲取所述第一數據的特征向量;判斷單元,用于判斷所述第一數據的特征向量是否與所述原始數據的特征向量相同;執行單元,用于在為否時,對所述原始數據進行處理,以防止所述原始數據輸入語音識別系統?;詰詼矯?,在一種可能的設計中,所述擾動單元,還用于利用噪聲信號對所述原始數據進行干擾;或對所述原始數據的時間幀進行隨機位移;或隨機截取所述原始數據中的數據;或對所述原始數據進行變形處理?;詰詼矯?,在一種可能的設計中,所述處理單元,還用于在所述原始數據為被破壞后的異常數據時,對所述原始數據進行處理,以獲得與所述原始數據對應的正常數據?;詰詼矯?,在一種可能的設計中,所述處理單元,還用于對所述原始數據進行降噪處理;或隨機截取所述原始數據中的數據;或利用隨機信號對所述原始數據進行處理;對所述原始數據進行變形處理?;詰詼矯?,在一種可能的設計中,在所述原始數據為圖像數據時,第二獲取單元,還用于獲取所述原始數據的RGB數據矩陣?;詰詼矯?,在一種可能的設計中,在所述原始數據為音頻數據時,第二獲取單元,還用于獲取所述原始數據的PCM數據矩陣?;詰詼矯?,在一種可能的設計中,在所述原始數據為音頻數據時,第二獲取單元,還用于獲取所述原始數據的PCM數據矩陣;以及獲取所述PCM數據矩陣的梅爾倒譜系數矩陣。第三方面,本專利技術實施例提供一種對抗樣本的防御系統,包括識別系統本文檔來自技高網...

【技術?;さ恪?/strong>
1.一種對抗樣本的防御方法,其特征在于,所述方法包括:獲取待處理的原始數據;獲取用于表征所述原始數據特征的特征向量;將所述特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,獲取匹配結果,其中,所述對抗樣本表征將正常數據破壞后的數據;在所述匹配結果表征所述特征向量屬于所述對抗樣本的特征向量時,對所述原始數據進行處理,以防止所述原始數據輸入到識別系統。

【技術特征摘要】
1.一種對抗樣本的防御方法,其特征在于,所述方法包括:獲取待處理的原始數據;獲取用于表征所述原始數據特征的特征向量;將所述特征向量與預先存儲的正常樣本的特征向量和對抗樣本的特征向量進行匹配,獲取匹配結果,其中,所述對抗樣本表征將正常數據破壞后的數據;在所述匹配結果表征所述特征向量屬于所述對抗樣本的特征向量時,對所述原始數據進行處理,以防止所述原始數據輸入到識別系統。2.根據權利要求1所述的方法,其特征在于,在所述原始數據為音頻數據時,獲取匹配結果之后,所述方法還包括:在所述匹配結果表征所述特征向量既不屬于所述正常樣本的特征向量或所述對抗樣本的特征向量時,對所述原始數據進行擾動,獲取第一數據;獲取所述第一數據的特征向量;判斷所述第一數據的特征向量是否與所述原始數據的特征向量相同;在為否時,對所述原始數據進行處理,以防止所述原始數據輸入語音識別系統。3.根據權利要求2所述的方法,其特征在于,對所述原始數據進行擾動,包括:利用噪聲信號對所述原始數據進行干擾;或對所述原始數據的時間幀進行隨機位移;或隨機截取所述原始數據中的數據;或對所述原始數據進行變形處理。4.根據權利要求1或2所述的方法,其特征在于,對所述原始數據進行處理,包括:在所述原始數據為被破壞后的異常數據時,對所述原始數據進行處理,以獲得與所述原始數據對應的正常數據。5.根據權利要求4所述的方法,其特征在于,對所述原始數據進行處理,包括:對所述原始數據進行降噪處理;或隨機截取所述原始數據中的數據;或利用隨機信號對所述原始數據進...

【專利技術屬性】
技術研發人員:彭凝多,唐博,魏華強,彭恒進,李銳,
申請(專利權)人:四川虹微技術有限公司,
類型:發明
國別省市:四川,51

網友詢問留言 已有0條評論
  • 還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。

1
北京pk10骗局全过程 双色球选号规律口诀 七星彩新手玩法技巧大全 时时彩大小稳赚法 北京pk10刷水投注方案 幸运快三计划软件免费下载 五连肖中奖规律 四肖三期必开一期中 四川麻将技巧 百人棋牌炸金花 最新pt游戏平台 玩二八杠的技巧口诀 网赌AG百家了作弊 麻将规则打法 快乐牛牛明牌抢庄技巧 看四张牌抢庄牛牛技巧